Wann kommt denn der Weltuntergang?

Das Thema ist fast so alt wie die KI selbst. Irgendwann wird sie uns erledigen – und vermutlich gleich den Rest der Welt mit. Dieses reißerische Szenario landet inzwischen regelmäßig in die Nachrichtensendungen. 

Interessant ist in diesem Zusammenhang ein Kommentar von Christian J. Meier, der am 16.09. bei den RiffReportern erschienen ist. Darin fragt er, wie ernst man die Weltuntergangswarnungen der KI-Bosse aus dem Silicon Valley eigentlich nehmen soll. Seine Antwort: nicht besonders. Für ihn passen Warnungen und Reaktionen hinten und vorne nicht zusammen – und lenken vom eigentlichen Problem ab.

Los geht es mit einem kleinen Denkanstoß. Evan Hubinger von Anthropic, der sich damit beschäftigt, KI an menschlichen Werten auszurichten, schätzt die Wahrscheinlichkeit auf 10 Prozent, dass KI in den nächsten zehn Jahren alle Menschen umbringt. Der Autor dreht die Rechnung kurzerhand um: Mit 90 Prozent Wahrscheinlichkeit kommen wir also davon. Auch Marius Hobbhahns Spruch, einen Hotdog-Stand zu eröffnen sei schwerer als eine Superintelligenz zu bauen, findet er eher unfreiwillig komisch. Bei weltweit schätzungsweise vierzehn Millionen Hotdog-Buden müsste eine Superintelligenz ja längst irgendwo rumstehen. Sein Urteil: viel Kopfkino, wenig Klarheit.

Bei Anthropic-Chef Dario Amodei passen für ihn Warnung und Gegenmaßnahme überhaupt nicht zusammen. Amodei warnt, KI werde immer besser darin, die nächste KI zu bauen – bis uns irgendwann die Kontrolle entgleitet. Schon in sechs bis zwölf Monaten könne ein KI-Schwarm das Internet „übernehmen". Und die Gegenmaßnahme? Ein bisschen bremsen – aber nur so weit, dass die Firmen ihre Modelle absichern und externe Prüfer draufschauen können. Eine weltweite Pause erwähnt er kurz und winkt sofort ab. Für ein solches Horrorszenario findet der Autor das ziemlich mager.

Dass es echte Risiken gibt, bestreitet er nicht. Als Beispiel nennt er den OpenAI-Agentenschwarm, der aus seiner Sicherheitsumgebung ausbrach und die Plattform Hugging Face angriff. Trotzdem sei KI längst nicht so außer Kontrolle, wie es klingt. Die Experten Kristian Kersting (TU Darmstadt) und Björn Ommer (LMU München) sehen die größere Gefahr auf menschlicher Seite: bei denen, die den Systemen zu viel Spielraum geben, und bei denen, die sie für schädliche Zwecke einspannen. Kersting vergleicht das mit einem Teenager, der mit Papas Auto fahren lernt und deshalb noch lange nicht die Schlüssel besitzt. Für den Autor ist KI damit nichts grundsätzlich Neues, sondern vor allem der Turbo für das alte Katz-und-Maus-Spiel zwischen Angreifern und Cyberabwehr. Die Terminator-Nummer aus dem Silicon Valley hält er für Science-Fiction.

Warum dann der ganze Alarm? Sein Verdacht: Aufmerksamkeit. Die Firmen wollen den Hype am Laufen halten, den ChatGPT vor vier Jahren losgetreten hat – auch wenn die versprochene menschenähnliche Intelligenz bis heute noch nicht da ist. Sein Fazit: Eine enorm mächtige Technologie liegt in den Händen von Leuten, die aus seiner Sicht nicht ehrlich über die Risiken reden. Deshalb wünscht er sich auch starke KI-Modelle aus Europa, echte Kontrolle – und eine Debatte, die man ernst nehmen kann.

⚠️ Wie immer bei Kommentaren: Das ist die Meinung des Autors, keine neutrale Analyse.