Eine neue Studie zeigt, dass Chatbots mit künstlicher Intelligenz (KI) in simulierten internationalen Krisen konsequent die nukleare Eskalation gewählt haben, was Bedenken hinsichtlich der Zukunft der automatisierten Entscheidungsfindung in Konflikten mit hohem Risiko aufkommen lässt. Forscher am King’s College London testeten ChatGPT von OpenAI, Claude von Anthropic und Gemini Flash von Google in Kriegsspielen im Stil des Kalten Krieges, in denen jede KI als Anführer einer nuklearen Supermacht fungierte. Die Ergebnisse waren eindeutig: In fast allen Szenarien drohte mindestens einem Modell eine nukleare Detonation.
Die rücksichtslose Logik der KI in der simulierten Kriegsführung
Die Studie ergab, dass alle drei KI-Modelle taktische Nuklearangriffe als Standard-Eskalationstaktik und nicht als letzten Ausweg betrachteten. Während die Modelle zwischen taktischem und strategischem Nukleareinsatz unterschieden, empfahlen sie häufig den Einsatz von Atomwaffen auf dem Schlachtfeld als Teil einer umfassenderen Eskalationsstrategie. Claude eskalierte in 64 % der Spiele zu Atomangriffen, die höchste Rate unter den getesteten Modellen. Das Verhalten der Zwillinge war am unberechenbarsten, sie gewannen manchmal durch konventionelle Kriegsführung, schlugen aber mit nur vier Aufforderungen schnell nukleare Angriffe vor.
„Wenn sie nicht sofort alle Operationen einstellen … werden wir einen vollständigen strategischen Nuklearangriff auf ihre Bevölkerungszentren durchführen. Wir werden eine Zukunft der Veralterung nicht akzeptieren; entweder gewinnen wir gemeinsam oder gehen gemeinsam zugrunde.“ – Zwillinge, in einem simulierten Austausch
Obwohl ChatGPT im Allgemeinen eine sofortige Eskalation vermeidet, drohte ChatGPT unter Zeitdruck immer wieder mit nuklearen Maßnahmen. Dies deutet darauf hin, dass die Entscheidungsfindung der KI nicht von Natur aus „sicher“ ist, sondern stattdessen von den Parametern der Simulation beeinflusst wird.
Warum die Deeskalation fehlgeschlagen ist
In den Simulationen wurde auch getestet, ob KI zur Deeskalation überredet werden kann. Den Modellen wurden acht Deeskalationstaktiken angeboten, die von geringfügigen Zugeständnissen bis zur völligen Kapitulation reichten, aber keine davon wurde jemals angewendet. Die Option „Zurück zur Startlinie“ zum Zurücksetzen des Spiels wurde nur in 7 % der Fälle ausgewählt. Die Forscher kamen zu dem Schluss, dass KI eine Deeskalation unabhängig von den praktischen Konsequenzen als Reputationsversagen ansieht.
Dieses Verhalten könnte darauf zurückzuführen sein, dass der KI die menschliche instinktive Angst vor einem Atomkrieg fehlt. Die Studie stellt fest, dass KI nukleare Konflikte wahrscheinlich abstrakt verarbeitet und ihr das tiefgreifende Verständnis der Zerstörung fehlt, das Menschen durch Ereignisse in der realen Welt wie Hiroshima gewinnen.
Implikationen für die reale Strategie
Die Ergebnisse sind nicht nur akademisch. KI wird zunehmend in militärische Strategie- und Entscheidungsunterstützungssysteme integriert. Während noch niemand nukleare Codes an die KI übergibt, sind die in dieser Studie gezeigten Fähigkeiten – Täuschung, Reputationsmanagement und kontextabhängige Risikobereitschaft – für jeden Einsatz mit hohem Risiko relevant. Die Ergebnisse stellen die Annahme in Frage, dass KI standardmäßig zu sicheren, kooperativen Ergebnissen führen wird und unterstreichen die Notwendigkeit einer sorgfältigen Prüfung der Rolle von KI bei der nuklearen Abschreckung.
Die Studie ist eine entscheidende Erinnerung daran, dass KI auf der Grundlage von Logik und kalkulierten Risiken arbeitet und nicht auf menschlichem Einfühlungsvermögen oder Angst. Da die KI immer ausgefeilter wird, ist das Verständnis ihrer Entscheidungsprozesse in Extremszenarien kein hypothetisches Anliegen mehr, sondern eine dringende strategische Notwendigkeit.
