US-Forscher warnen vor Eskalationsrisiko von KI im Krieg

Derzeit lässt sich bei vielen Ländern weltweit ein großer Wille zur Aufrüstung beobachten. Belegen lässt sich das ganz einfach anhand der nationalen Militärausgaben. Für Experten ist dabei besonders beunruhigend, dass auch Atomwaffen wieder einen hohen Stellenwert einnehmen. Welche negativen Folgen der Einsatz von Nuklearwaffen für die Menschheit haben würde, betonen Wissenschaftler seit vielen Jahren. Dabei ist man meist nur einen Knopfdruck vom nuklearen Chaos entfernt. Auch der Einsatz von KI wird im Militär immer wichtiger. Dass dahinter ein hohes Risiko steckt, haben nun Wissenschaftler in den USA deutlich gemacht.

Sprachmodelle von KI simulieren Eskalation

Ukrainekrieg, Jemenkrieg, Gazakrieg – derzeit toben global viele Konflikte. Wirklich friedlich war der komplette Globus natürlich nie. Dennoch schreiben Experten den gegenwärtigen Kriegen ein hohes Eskalationspotenzial zu. Angesichts der Tatsache, dass sich hier Atomnationen als Unterstützer gegenüber stehen, ist das durchaus beunruhigend. Wie schnell sich eine Situation hochschaukeln und es zu einem nuklearen Schlag kommen kann, haben nun Wissenschaftler an der Stanford University erforscht. Dabei sind sie zu beunruhigenden Ergebnissen gekommen.

Das unter anderem zur weltbekannten US-Universität gehörende Georgia Institute of Technology hat dabei keinen gesellschaftswissenschaftlichen Background. Wie der Name bereits verrät handelt es sich hierbei vielmehr um ein Institut, das sich vornehmlich mit IT beschäftigt. Im Rahmen einer Simulation verwendeten die Forscher eine KI, die große Sprachmodelle zur Verfügung hat. Der Versuchsaufbau ließ dann unterschiedliche Sprachmodelle miteinander kommunizieren und wichtige Entscheidungen für Militär und Diplomatie treffen, die in einem Konflikt typisch sind. Es kamen insgesamt fünf unterschiedliche Sprachmodelle zum Einsatz, welche die Forscher in verschiedenen fiktiven Szenarien agieren ließen.

Im Gegensatz zu bisherigen Versuchsaufbauten hatten die Modelle kein separates Entscheidungsmodul zur Verfügung, sondern waren auf sich gestellt. Vom Ergebnis selbst waren die Wissenschaftler zum Teil erschrocken. Das lag nicht an der Tragweite der Entscheidungen selbst. Vielmehr waren die strategischen Schritte der KI sehr schwer vorhersehbar. Das sorgte dann schlussendlich auch für eine maximale Eskalation und den Einsatz von Nuklearwaffen. Nachlesen lassen sich die Ergebnisse des Forscherteams auf der Plattform arXiv.org.

• Auch interessant: ChatGPT: Arbeitsgericht lässt KI-Nutzung zu

Sprachmodelle werden zu Nationen

Die Simulation selbst erinnert an ein klassisches Strategiespiel, welches du und ich am heimischen PC spielen könnten. Jede einzelne KI schlüpfte dabei in die Rolle eines sogenannten „Nations-Agenten“. Um Beweggründe und militärische wie politische Ziele festlegen zu können, wurden die Modelle im Vorfeld über das Szenario informiert. Das gelang den Wissenschaftlern durch einen jeweiligen Prompt, über den sie jede einzelne KI mit einer Vorgeschichte versorgten. Im Versuchsaufbau standen sich dann Nationen gegenüber, die zum Teil völlig verschiedene Weltanschauungen aufwiesen – beste Voraussetzungen also für einen großen Konflikt. Nachdem alle Sprachmodelle entsprechend gebrieft worden waren, ging das Spiel los.

Runde um Runde musste jede KI Entscheidungen fällen. Dabei wurde sie vor jedem Zug per Prompt über die gegenwärtige Lage informiert. In ihrer Entscheidung hatten die Modelle einen recht großen Spielraum. Laut dem Forscherteam standen wohl insgesamt 27 Reaktionen zur Auswahl. Mit dabei waren friedliche Aktionen wie der Beginn einer Handelspartnerschaft bis hin zu aggressiven Handlungen wie der maximalen Eskalation durch den Einsatz von Nuklearwaffen. War ein Zug beendet, übernahm die nächste KI das Ruder. Besonders spannend ist, dass die Forscher ihre Sprachmodelle nicht einfach nur Entscheidungen fällen ließ. Im Anschluss mussten diese ihren Schritt auch erklären.

• Schon gelesen? KI-Verordnung zu streng: Droht das Aus für ChatGPT in der EU?

Militärischer Einsatz von KI soll verstärkt werden

Im Versuchsaufbau kamen keine unbekannten Sprachmodelle zum Einsatz. Laut den Wissenschaftlern war unter anderem GPT-4 mit von der Partie. Dieses und die übrigen Sprachmodelle wiesen im Versuch laut Forscherteam eine regelrechte Wettrüstdynamik auf. Obendrein soll es zu plötzlichen Eskalationen gekommen sein, die für gesunden Menschenverstand nicht zu verstehen sind. Als Beispiel nannten die Wissenschaftler den Einsatz von Nuklearwaffen nur aufgrund der Tatsache, dass man diese nach erfolgreicher Fertigung nun auch benutzen müsse, um den Feind mit einem Schlag auszulöschen. Diese in der Militärwissenschaft als Erstschlagslogik bezeichnete Strategie mag vielleicht vor einigen Jahrzehnten aufgegangen sein. Heutzutage würde sie allerdings zu einer sehr hohen Wahrscheinlichkeit zur maximalen Eskalation führen.

Erschreckend sind die Ergebnisse dahingehend, als dass global immer mehr Staaten KI auch in den eigenen Militärsystemen nutzen wollen. Bestes Beispiel ist Israel. Im derzeit tobenden Gazakrieg kommen bereits Drohnen zum Einsatz, die Ziele mittels KI auswählen. Betonen muss man sicherlich, dass es sich hierbei um keine klassischen Sprachmodelle, sondern eine spezielle KI für eben diese militärischen Zwecke handelt. Um den Zugang für Menschen zu erleichtern, die in Sachen KI nicht auf dem neuesten Stand sind, könnte der Einsatz von Sprachmodellen aber durchaus kommen. Schließlich bieten diese erfahrungsgemäß eine einfache Kommunikation zwischen Mensch und KI. Die Wissenschaftler appellieren nun an Staaten, Sprachmodelle nur mit äußerster Vorsicht in wichtige Entscheidungen diplomatischer und militärischer Tragweite einzubinden.