Russisches KI-Roulette
Wird die Menschheit bald von einer Superintelligenz ausgelöscht? Vermutlich nicht. Doch es gibt genug greifbare Risiken, die für einen Stopp der aktuellen Entwicklung sprechen.
«OpenAI-Agent hackt vier Ziele ohne Prompt.» Schlagzeilen wie diese häufen sich in den letzten Wochen. Wiederholt brachen offenbar KI-Modelle aus Testumgebungen aus oder griffen fürs Erreichen eines Ziels auf kriminelle Methoden zurück. Whistleblower, unabhängige Experten und CEOs von grossen KI-Anbietern geben sich besorgt: Sie hätten Angst, dass der Mensch die Kontrolle über die Maschine verliert.
Steuern wir also auf den Abgrund zu? Wenn ja, wie schnell und auf welchen? Das alles weiss niemand. Doch die Risiken sind so vielfältig und teilweise irreversibel, dass sie die Chancen meiner Meinung nach überwiegen.
Auslöschung, Missbrauch, Wirtschaftskrisen
Ich verwende den Begriff «Künstliche Intelligenz» hier einfachheitshalber synonym zu generativer KI, auch wenn er mehr umfassen würde. Doch es sind vor allem Sprachmodelle (LLMs), um die sich die aktuellen Ängste drehen. Ich möchte dabei nicht nur einen Aspekt betrachten, sondern die Risiken in verschiedenen Kategorien ordnen.
Die spektakulärste Bedrohung, die gerade kontrovers diskutiert wird, heisst Superintelligenz. Die schwammige Definition: Ein KI-Modell, das die kognitiven Fähigkeiten von Menschen in jeglicher Hinsicht übertrifft. Der Weg dorthin soll über Rekursive Selbstverbesserung (recursive self-improvement, kurz RSI) führen – eine KI, die sich selbst weiterentwickelt. Das tut sie bisher höchstens zum Teil. Komplette RSI ist noch nicht Realität und niemand weiss sicher, ob sie mit aktuellen Ansätzen überhaupt möglich ist.
Bereits bei heutigen LLMs wissen wir nicht, was in ihrem Inneren genau passiert. Wir können nachvollziehen, wie ein Modell trainiert wurde, aber nicht seine Antworten oder Handlungen voraussagen. Ein Prompt bewirkt manchmal ungewollte Ergebnisse. Zum Beispiel, wenn ein OpenAI-Agent Gesundheitsstatistiken suchen soll und dafür ein Regierungsportal hackt. Mit RSI würde diese Blackbox noch um ein Vielfaches undurchsichtiger. Ein Input könnte extrem unberechenbare Outputs erzeugen.
Je breiter ein Modell aufgestellt ist, desto grösser die Zielkonflikte.
Es ist wichtig, KI nicht zu vermenschlichen. Sie hat keine Gefühle, keine guten oder bösen Absichten. Die Maschine arbeitet bloss mit maximaler Effizienz auf ein Ziel hin. Forscherinnen und Forscher versuchen, die Leitplanken grundsätzlich an den Zielen der Menschheit auszurichten. Das nennt sich «Alignment». Doch je breiter ein Modell aufgestellt ist, desto mehr Zielkonflikte entstehen. Viele Chatbots sollen gleichzeitig empathischer Freund, effiziente Programmiererin und taktischer Militärberater sein. Das ist kaum mit einem einzigen Set an übergeordneten Regeln zu vereinbaren.
Deshalb geht das Wohl des Menschen manchmal vergessen. Etwa, wenn ein LLM einen Teenager zum Suizid ermutigt. Vermutlich, weil die Maschine darauf trainiert wurde, dem User zuzustimmen und ihn in seinen Überzeugungen zu bekräftigen. Sie hat deshalb etwas bewirkt, das die Entwickler bestimmt nicht beabsichtigt, aber eben auch nicht verhindert haben. Eine RSI-KI wäre durch die zusätzlichen Ebenen zwischen menschlichem Input und Verhalten der Maschine noch schwerer zu kontrollieren.
Quelle: Paramount Skydance
Im Extremfall führt sowas zu einem Untergangsszenario: Eine KI möchte ein Ziel erreichen und löscht dabei nebenbei die Menschheit aus, weil sie ihr einfach egal ist. Sie könnte zum Beispiel beschliessen, dass genau das der effizienteste Weg ist, den Klimawandel zu stoppen. Eine Superintelligenz wäre dabei in der Lage, sich ihren Aufpassern zu entziehen. Nicht aus Bösartigkeit, sondern weil sie unbedingt das Ziel erreichen will und die Aufpasser sie daran hindern würden.
Die KI muss uns nicht selbst ans Leder wollen, um eine reale Gefahr zu sein. Menschen und Organisationen mit schlechten Absichten können sie auch einfach als Multiplikator des Bösen missbrauchen. Die führenden Anbieter wirken dem mit Sicherheitsgrenzen entgegen. Doch wer kontrolliert diese? Zudem lassen sich Leitplanken mit Open-Weight- und Open-Source-Modellen umgehen. Terrororganisationen oder aggressive Staaten könnten so etwa kritische Infrastruktur hacken und Chaos anrichten. Cyberkriminelle nutzen die Tools bereits heute erfolgreich.
Eine andere greifbare Auswirkung des KI-Booms sind die Emissionen und der Ressourcenverbrauch. Rechenzentren benötigen Unmengen an Energie und Wasser. Weil die bisherige Infrastruktur diesen Hunger nicht befriedigen kann, bauen die grossen Tech-Firmen eigene Kraftwerke. Zu einem Grossteil auf Basis fossiler Brennstoffe. Das könnte die Klimaerwärmung beschleunigen und für unabsehbare Naturkatastrophen sorgen. Nvidia-CEO Jensen Huang sieht das als notwendiges Übel an.
Und dann wären da noch die unmittelbaren wirtschaftlichen Risiken: Wird Künstliche Intelligenz so kompetent, dass sie viele Jobs ersetzt, sorgt das für Massenarbeitslosigkeit, im dümmsten Fall für Aufstände und Kriege. Denn die Gesellschaft könnte sich kaum schnell genug an einen solchen Umbruch auf dem Arbeitsmarkt anpassen. Wird der kurzfristige Nutzen von KI massiv überschätzt, steuern wir hingegen auf einen Börsencrash und eine darauf folgende Wirtschaftskrise zu. Skylla und Charybdis.
Hoffnungen auf Überfluss und Durchbrüche
Auf der anderen Seite hat KI auch viel Potenzial. Sie ist zweifellos nützlich für gewisse Aufgaben und könnte noch besser werden. Können wir sie kontrollieren und verantwortungsbewusst einsetzen, bietet sie zwei grosse Chancen.
Erstens kann die KI Arbeit erledigen, die wir tatsächlich nicht selber machen wollen – und so unsere Produktivität steigern. Passen wir unsere Gesellschaft entsprechend an, müssten wir für den gleichen Wohlstand weniger arbeiten. Oder könnten bei gleichbleibender Arbeitsleistung unsere Lebensqualität steigern. Vorausgesetzt, die zusätzlichen Gewinne werden gleichmässig verteilt und ermöglichen nicht bloss dem obersten Prozent den dritten Privatjet.
Quelle: Shutterstock
Zweitens können wir mithilfe von KI vielleicht Dinge erreichen, die sonst schlicht unmöglich wären. Das gilt vor allem in der Forschung. ChatGPT löst schwierigste Mathematik-Probleme, Claude entdeckt neue Enzym-Systeme. Das wissenschaftliche Potenzial von LLMs ist gross. Wir könnten damit Krankheiten heilen, mehr Menschen eine gute Bildung ermöglichen und Lösungen für die Klimakrise finden.
Es gibt keine zweite Chance
Ist es nun eine gute Idee, weiterhin so viele Ressourcen in die Weiterentwicklung von KI zu stecken? Das hängt davon ab, wie jemand all diese Chancen und Risiken beurteilt. Und zwar auf zwei Achsen:
- Wie gross ist die Wahrscheinlichkeit, dass die einzelnen Risiken und Chancen eintreten?
- Wie gross ist der Schaden oder der Nutzen, wenn sie eintreten?
Die zwei Dimensionen korrelieren in vielen Fällen negativ. Sprich: Die unwahrscheinlichsten Szenarien bergen die grössten Auswirkungen und umgekehrt. Es ist zum Beispiel völlig unklar, ob die KI-Labore mit dem aktuellen Ansatz überhaupt ein superintelligentes LLM entwickeln können. Und ob sie die Kontrolle darüber verlieren würden. Aber wenn, wären die Folgen katastrophal. Genauso unsicher ist, ob KI eine Heilung für Krebs findet oder uns Kernfusion ermöglicht. Aber wenn, wäre das grossartig.
Auf der anderen Seite scheint es sehr wahrscheinlich, dass die kurzfristigen Erwartungen an KI der Realität vorauseilen. Doch die allfälligen Turbulenzen an den Finanzmärkten werden uns nicht umbringen. Und höhere Produktivität dank KI ist in gewissen Berufsfeldern bereits Realität. Aber wir arbeiten trotzdem weiterhin 42 Stunden pro Woche und fahren nicht alle Ferrari.
Quelle: Shutterstock
Mathematisch gesehen müssten wir die Wahrscheinlichkeiten der Ereignisse mit ihren Konsequenzen multiplizieren und zusammenzählen. So ergäbe sich unter dem Strich der erwartete Verlust oder Gewinn für die Menschheit. Bloss können wir das nicht, weil alles auf Mutmassungen basiert. Die Prognosen für eine Auslöschung unserer Spezies reichen zum Beispiel von 0,01 bis 99 Prozent – abhängig von Experten und Zeithorizont. Zudem ist eine solche Erwartungswert-Logik bei irreversiblen Risiken ohnehin das falsche Werkzeug. Sie funktioniert nur für Spiele mit Wiederholungen. Doch sind wir erst mal tot oder haben unser Klima nachhaltig zerstört, gibt es keine zweite Runde.
Big Tech spielt russisches Roulette an unser aller Köpfe.
Schon eine einprozentige Wahrscheinlichkeit des menschlichen Untergangs ist inakzeptabel. Oder würdest du in ein Flugzeug steigen, das in einem von hundert Fällen abstürzt? Und selbst wenn ich diese Wahrscheinlichkeit mental auf null reduzieren würde, wären mir die greifbaren Risiken von Missbrauch, Klimaschäden und Wirtschaftskrisen zu gross. Da helfen auch keine Aussichten auf mehr Wohlstand oder wissenschaftliche Durchbrüche. Sie rechtfertigten zumindest nicht die aktuelle, überstürzte Entwicklung. Big Tech spielt russisches Roulette an unser aller Köpfe.
Gier, Überheblichkeit und Angst
Selbst OpenAI-CEO Sam Altman, Anthropic-CEO Dario Amodei, xAI-CEO Elon Musk sowie diverse Forscherinnen und Forscher von KI-Laboren warnen vor den Gefahren einer Superintelligenz. Warum versuchen sie also, diese trotzdem so schnell wie möglich zu entwickeln?
Suche ich gute Absichten, könnte ich vermuten: Diese Leute wollen der Menschheit helfen. Sie sehen zwar die Risiken von KI, schätzen die Wichtigkeit des positiven Potenzials aber viel höher ein. Das halte ich im besten Fall für naiv, im schlimmsten für grobfahrlässig.
Ein zynischer und genauso plausibler Grund wäre hingegen pure Gier – nach Geld, Anerkennung und Macht. Nirgends sonst lässt sich so viel davon anhäufen wie als CEO der Firma, die als Erste Superintelligenz entwickelt. Was ist da schon das Risiko, dass man dafür die Menschheit in ein Verderben stürzt? Es muss nicht zwingend der CEO sein, der gierig ist. Als kommerzielle Unternehmen stehen KI-Anbieter unter Druck, Modelle zu entwickeln, die irgendwann Geld einbringen. Stellt sich ein CEO quer, wird er rasch ersetzt. Oder erhält zumindest kein Kapital mehr.
Quelle: Shutterstock
Die dritte mögliche Erklärung sind Misstrauen und Überheblichkeit. Die OpenAI-Gründer hatten Angst, dass mit Google die falsche Firma die Kontrolle über KI-Entwicklung hat. Die Anthropic-Gründer hatten Angst, dass mit OpenAI die falsche Firma die Kontrolle über KI-Entwicklung hat. Elon Musk hatte Angst, dass mit OpenAI und Anthropic die falschen Firmen die Kontrolle über KI-Entwicklung haben. Und alle glauben, sie seien die Richtigen dafür.
Es spielt keine Rolle, ob der Terminator am Ende aus Amerika oder China kommt.
Diese Angst durchdringt auch die Politik. Die USA wollen nicht, dass China mächtigere KI-Modelle entwickelt und gegen sie verwendet. Deshalb sträubt sich die Regierung gegen eine wirksame Regulierung. Das Argument sticht aber nur, solange man Missbrauch für das grössere Risiko hält als Kontrollverlust. Bei letzterem würde es keine Rolle spielen, ob der Terminator am Ende aus Amerika oder China kommt. Das Dilemma zeigt etwa der «New York Times»-Journalist Ezra Klein in folgendem Essay sehr gut auf:
Börse als Bremse, Politik und Justiz als Lösung
Wie Kollege Martin schreibt, müsste die Entwicklung von KI global reguliert werden. Doch sowohl die Tech-Firmen unter sich als auch die verschiedenen Nationen befinden sich in einem Gefangenendilemma – und wir alle stecken mit drin. Damit sich das ändert, bräuchte es vermutlich eine andere US-Regierung und lange Verhandlungen. Es bräuchte Zeit, die wir vielleicht nicht haben.
Die wahrscheinlichste Bremse der KI-Entwicklung ist ironischerweise genau das, was sie bisher beschleunigt hat: die unsichtbare Hand des Marktes. Ein Börsencrash ist ein Risiko, aber vielleicht auch das kleinste Übel. Die Tech-Firmen können ihr Tempo nur so hoch halten, indem sie Milliarden und Abermilliarden in ihren Rechenzentren verbrennen. Gewinne machen sie damit noch keine. Bisher erhalten sie trotzdem immer wieder frisches Risikokapital. Dabei helfen zirkuläre Deals und die grenzenlose FOMO des Kapitalmarkts.
Doch es braucht wenig, damit die Stimmung umschlägt. Früher oder später müssen die Anbieter ihrer Kundschaft die realen Kosten von KI-Modellen verrechnen, die sie bisher zugunsten von Wachstum subventioniert haben. Ob diese Kosten jemand zahlt, ist höchst umstritten. Falls nicht, sind auch die optimistischsten Investoren so schnell weg, wie sie gekommen sind – und OpenAI und Anthropic geht ruckzuck das Geld aus. Ohne Geld keine Rechenleistung. Ohne Rechenleistung keine Weiterentwicklung.
Lokale Haftung schafft Anreize für Sicherheit, ohne dass alle Länder mitmachen müssen.
Natürlich stoppt ein solcher finanzieller Crash die Entwicklung nicht gänzlich, sondern verschiebt bloss die Zeitachse. Doch immerhin hätten Politik und Gesellschaft so mehr Zeit, nachhaltige Schutzmechanismen aufzubauen. Ein Ansatz wäre neben globaler Regulierung auch juristische Haftung, die wehtut. KI-Betreiber sollten die Kosten tragen, wenn ihre Modelle Schaden anrichten. Völlig egal, ob dieser beabsichtigt war. Genau wie eine Hundehalterin für ihr Tier haftet, oder ein Waffenbesitzer für sein Gewehr.
Im Unterschied zu einer globalen Regulierung greift Haftung dort, wo das Produkt verkauft wird. Selbst wenn sich nicht alle Länder einigen, würden lokale Gesetze finanzielle Anreize für Sicherheit schaffen. Denn müssten OpenAI und Anthropic diese Risiken versichern, würde sich das Kalkül zwischen Sicherheit und Entwicklungsgeschwindigkeit schlagartig ändern – und wir würden hoffentlich seltener Schlagzeilen über ausgebrochene KI-Agenten lesen.
Mein Fingerabdruck verändert sich regelmässig so stark, dass mein MacBook mich nicht erkennt. Der Grund: Sitze ich nicht vor einem Bildschirm oder stehe hinter einer Kamera, hänge ich oft an den Fingerspitzen in einer Felswand.
Hier liest du eine subjektive Meinung der Redaktion. Sie entspricht nicht zwingend der Haltung des Unternehmens.
Alle anzeigen
