Zum Inhalt springen

Albtraum Killerroboter «Riesige Anwendungsmöglichkeiten für KI bei Waffensystemen»

Noch seien auf den Schlachtfeldern keine «Killerroboter wie in Hollywood-Filmen» anzutreffen, sagt der italienische Konfliktforscher Maurizio Simoncelli. Doch Rüstungsgüter, die auf Künstlicher Intelligenz (KI) basieren, würden bereits eingesetzt. Ihre Vernichtungskapazität werde von Tag zu Tag erschreckender. Der Nahe Osten und die Ukraine seien ideale Einsatzgebiete für diese neuen Systeme, so Simoncelli. In Gaza verwendeten die Israelis das System Lavender (ein KI-System, das bis zu 37'000 Palästinenser als mutmassliche Militante registriert hat) und das System Gospel zur Identifizierung von Zielen und zur Markierung von Gebäuden und Strukturen, die getroffen werden sollen.

Maurizio Simoncelli

Konfliktforscher

Personen-Box aufklappen Personen-Box zuklappen

Maurizio Simoncelli ist Vizepräsident des Internationalen Forschungsinstituts Abrüstungsarchiv (Istituto di Ricerche Internazionali Archivio Disarmo, Iriad) und Professor für den Masterstudiengang Konfliktgeopolitik an der Lateran-Universität in Rom.

SRF News: Was macht Ihnen bei diesen Technologien am meisten Angst?

Maurizio Simoncelli: Diese KI, die selbst in Friedenszeiten Ziele identifiziert, Listen erstellt und sie den Streitkräften für Angriffe zur Verfügung stellt. Bemerkenswert ist, dass es keine Kontrolle über die Prinzipien gibt, nach denen diese Listen menschlicher Ziele erstellt werden. Und dann noch das System, bei dem ein Ziel auch sogenannte Kollateralschäden – den Tod von Menschen, die nichts damit zu tun haben – verursachen kann.

Eine Plastik aus Autobestandteilen an einem Kontrollpunkt einer Bürgerwehr in der ukrainischen Hauptstadt Kiew.
Legende: Eine Plastikfigur aus Autobestandteilen an einem Kontrollpunkt einer Bürgerwehr in der ukrainischen Hauptstadt Kiew. Keystone/Vadim Ghirda

Wie funktioniert die KI bei der Identifizierung von Zielen?

Sie nutzt alle erdenklichen Elemente, die Spuren, die wir auf unserem Weg hinterlassen. Wir haben aus israelischen Quellen erfahren, von Kritikern, die den Schleier zu diesem Thema gelüftet haben, dass es sogar eine Tabelle mit einer bestimmten Anzahl von Kollateralschäden gibt, die für die Art des Ziels plausibel ist. Für einen einfachen Militanten kann man zehn Kollateralschäden treffen, für einen Kommandanten der mittleren Ebene mehr, bis zu 100 oder 200.

Solche Waffen sind in der Lage, den Gegner aufzuspüren und ihn sogar zu treffen, sofern sie völlig autonom sind.

Wie weit ist diese Militärtechnologie gediehen?

Solche Waffen sind in der Lage, den Gegner aufzuspüren und ihn sogar zu treffen, sofern sie völlig autonom sind. Die Anwendungsmöglichkeiten der KI bei Waffensystemen sind riesig: völlig autonome Schiffe und Flugzeuge, Raketenabwehrsysteme, Grenzkontrollsysteme, Satellitenanalyse, Gesichtserkennung, Vorhersage-Analysen etc.

Wohin wird uns diese Militärtechnologie führen?

Wir haben immer fortschrittlichere nukleare Raketensysteme, Raketen, die sich sehr schnell und in geringer Höhe bewegen und erst in unmittelbarer Nähe des Ziels entdeckt werden können. Die menschliche Reaktionszeit ist viel langsamer. Deshalb ist es nötig, sich mehr und mehr auf Maschinen zu verlassen, mehr und mehr auf KI, um eine Rakete, einen möglichen Angriff, zu erkennen und mit einem Gegenangriff zu reagieren.

Es ist eine Resolution, die ein grosses politisches Gewicht hat.

Was tun die Vereinten Nationen?

Die grosse internationale Debatte dreht sich um den Grad der Autonomie solcher Waffensysteme. Anfang November hat die UNO eine Resolution verabschiedet: Sie fordert, dass die Autonomie nicht total sein darf, sondern dass im letzten Moment ein menschliches Eingreifen erfolgen muss. Also begrenzte Autonomie.

Dass also noch ein Mensch den Knopf drücken muss?

Genau. Es fehlen aber konsequente Massnahmen, um die Resolution in die Praxis umzusetzen. Aber immerhin ist es eine Resolution, die ein grosses politisches Gewicht hat.

Das Gespräch führte Massimiliano Angeli.

Heute Morgen, 2.12.24, 7:00 Uhr ; 

Meistgelesene Artikel