Chemische Waffen sind gefürchtet und seit 1997 völkerrechtlich verboten. Dennoch gibt es ein Arsenal an hochgiftigen Molekülen, die über die Jahrzehnte als Waffen entwickelt wurden. Bekannt sind die Nervengifte Sarin, VX oder Nowitschok.
Eine neue Studie zeigt, dass relativ einfach noch giftigere Stoffe entwickelt werden können – mithilfe einer Software, die in der Pharmaindustrie weit verbreitet ist.
Im Zentrum dieser Erkenntnis steht Sean Ekins. Der Brite will Menschen helfen und entwickelt in den USA Computerprogramme, die mittels künstlicher Intelligenz – kurz KI – nach neuen Arzneistoffen suchen. Mit Chemiewaffen hatte er nichts zu tun – bis ihn das Labor Spiez kontaktierte, das Institut des Eidgenössischen Departements für Verteidigung, Bevölkerungsschutz und Sport.
Das Labor Spiez organisiert regelmässig eine Konferenz, um Entwicklungen zu diskutieren, die das internationale Verbot von Chemiewaffen zu unterlaufen drohen. Sean Ekins wurde angefragt, ob er eine solche Untersuchung machen wolle, um darüber an der Konferenz zu berichten: Könnte die Software seiner Firma Collaborations Pharma mithilfe von KI statt heilender Medikamente auch tödliche Stoffe entwickeln?
Schockierende Ergebnisse
Ekins polte die Software also um: Statt wie normalerweise ausgehend von einem medizinischen Wirkstoff ähnliche Stoffe mit weniger Nebenwirkungen zu finden, suchte sie diesmal nach immer giftigeren Substanzen. Das Experiment gelang: Bloss sechs Stunden Rechenzeit später hatte der Computer Zehntausende Moleküle gefunden, viele davon extrem giftig.
Als Ausgangspunkt bekam die Software Moleküle, die dem Nervengift VX entfernt ähneln. Sie baute darauf zahlreiche Moleküle, die VX sehr ähnlich sind – aber bis zu zehnmal potenter. Noch etwas war beunruhigend: Die Software hatte auch Tausende hochtoxischer Moleküle entwickelt, die bislang unbekannt waren.
Am meisten aber schockierte Sean Ekins, dass all dies möglich war, obwohl er ausschliesslich öffentlich zugängliche Daten verwendet hatte. Selbst von der KI-Software, die Ekins entwickelt, gibt es Open-Source-Varianten, die man frei im Internet herunterladen kann.
Und schon ist die Chemiewaffen-Kontrolle ausgehebelt
Der Chemiewaffenexperte Cédric Invernizzi vom Labor Spiez hatte Sean Ekins' Versuch angeregt. Auch er ist beunruhigt, gibt aber zu bedenken, dass dieses Verfahren einem Staat, der Chemiewaffen produzieren will, nicht zwingend Vorteile bringt: Warum sollte jemand noch etwas Giftigeres in die Hände bekommen wollen als VX oder Nowitschok? Zumal die interessanten Moleküle nur virtuell im Computer existieren. Chemiker mit dunklen Absichten müssten erst herausfinden, ob und wie sie diese herstellen könnten.
Wie gross das Missbrauchpotenzial von KI tatsächlich ist, ist schwierig zu sagen.
Um solche Absichten im Keim zu ersticken, gibt es Kontrollen. Zum Beispiel dürfen Ausgangsstoffe für die Produktion von Chemiewaffen nur mit Bewilligung gehandelt werden.
Doch diese Hürden könnten umgangen werden, warnt Sean Ekins, mit einer Software, die in ihren Kochrezepten nur unverdächtige Stoffe verwendet, für die es keine Handelsbewilligung braucht. Und schon ist die Chemiewaffen-Kontrolle ausgehebelt.
Aufklärung ist wichtig
Wichtig sei, die Software-Firmen und Forscherinnen aufzuklären, damit sie misstrauisch würden, wenn sie verdächtige Anfragen erhalten. Zudem könnten potenziell gefährliche Programme nur an registrierte Nutzer abgegeben werden. Bereits kursierende Software lässt sich damit allerdings nicht mehr kontrollieren.
Wie gross das Missbrauchpotenzial von KI tatsächlich sei, sei schwierig zu sagen, so Cédric Invernizzi vom Labor Spiez. Die internationalen Gremien von Chemiewaffenfachleuten würden dies nun wohl prüfen: «Gut möglich, dass das angeschaut wird, aber sicherlich kaum im öffentlichen Bereich.»
Sondern hinter verschlossenen Türen, damit nicht noch mehr Wissen bekannt wird, das missbraucht werden könnte.
