Auch die Schweizer UNO-Botschafterin Pascale Baeriswyl war schon Opfer einer Deepfake-Manipulation: «Voriges Jahr wurde im Zusammenhang mit Haiti von mir in meiner Rolle als Sicherheitsratsvorsitzende ein Fake-Video in Umlauf gebracht.» Die Folge: Vertrauen wurde erschüttert und musste wieder hergestellt werden.
Bildmanipulationen gab es indes schon in der Mitte des 19. Jahrhunderts. Auch das zeigt die von der Schweiz gemeinsam mit dem Internationalen Komitee vom Roten Kreuz IKRK und der ETH Lausanne präsentierte Ausstellung am UNO-Sitz in New York.
Wenn Deepfakes Konflikte anzetteln
Baeriswyl betont daher: «Es ist eigentlich kein neues Phänomen. Aber neue Technologien und künstliche Intelligenz haben das derart verbessert, beschleunigt und vereinfacht, dass im Grunde jede Rebellengruppe solche Manipulationen vornehmen kann.» Und das mit dramatischen Wirkungen: «Man kann damit in einem Konflikt Friedensbemühungen unterlaufen.» Oder sogar neue Konflikte anzetteln.
Philippe Stoll vom IKRK spricht gar von mitunter «desaströsen Folgen für humanitäre Organisationen und ihre Angestellten in Kriegsgebieten». Das A und O humanitärer Arbeit ist das Vertrauen.
IKRK-Delegierte können nur sicher arbeiten, wenn alle Akteure in einem Konflikt und die Opfer überzeugt sind, dass Nothilfe gerecht erfolgt und Hilfsorganisationen nicht heimlich mit der einen oder anderen Seite kungeln. Ist das Vertrauen erschüttert, wird die Arbeit schwierig, mitunter unmöglich.
Es ist die Aufgabe des IKRK, das Kriegsvölkerrecht weiterzuentwickeln und, wo nötig – wie bei den Deepfakes –, neue Normen zu fordern.
«Mit Desinformation erschüttern Kriegsparteien und ihre Anhänger genau dieses Vertrauen und versuchen so, humanitäre Organisationen wie das IKRK zu diskreditieren», sagt Stoll.
Das passiert in Grosskonflikten wie im Nahen Osten, in der Ukraine, aber durchaus nicht nur dort. Das Ergebnis ist Misstrauen. Das Thema ist extrem heikel, weshalb der IKRK-Vertreter keine konkreten Beispiele nennt.
Bislang gibt es kaum Regeln
Der Schweiz und das IKRK wollen jetzt Regierungen für die Problematik sensibilisieren. So solle das Bewusstsein geschaffen werden, dass es Regeln gegen Deepfakes brauche. Noch fehlen solche weitgehend. Dabei liefern das Recht auf Persönlichkeitsschutz oder das Recht am eigenen Bild zumindest Grundlagen.
«Es ist die Aufgabe des IKRK, das Kriegsvölkerrecht weiterzuentwickeln und, wo – wie bei den Deepfakes nötig –, neue Normen zu fordern», sagt Philippe Stoll. Entsprechende Gesetze beschliessen und durchsetzen, müssten indes die einzelnen UNO-Mitgliedstaaten.
Für ein internationales Regelwerk spricht sich auch UNO-Botschafterin Baeriswyl aus: «Gleichzeitig sollten wir die neuen Technologien zur Herstellung von Deepfakes auch zu deren Aufdeckung nutzen.» Und da könnte die Schweiz einen Beitrag leisten: «Die Idee ist, in Genf ein Kompetenzzentrum aufzubauen, gerade für internationale und humanitäre Organisationen.»
Deepfakes richten in zunehmendem Mass Schaden an. Immerhin scheint das Problem nun auch im Sicherheitsrat, dem mächtigsten UNO-Gremium, anzukommen.
