Die Ausgangslage: Der E-Mail-Dienst von Google, Gmail, hat 2.5 Milliarden User. Aktuell haben viele davon eine E-Mail bekommen, in der sie aufgefordert werden, ihr Konto bei Gmail wiederherzustellen. Wer nicht reagiert, erhält kurz darauf einen Anruf. Angezeigt wird eine offizielle Google-Nummer. Nur: Es ist erstens kein Anruf von Google und zweitens ist am anderen Ende kein Mensch, sondern eine künstliche Intelligenz, die mit einem spricht. Das Ziel: sensible Daten zu entlocken.
Das Ausmass des Phishingversuchs: Wie viele Nutzerinnen und Nutzer von Gmail auf den Betrug hereingefallen sind, ist schwer zu ermitteln. Experten gehen von Einzelfällen aus. Medien berichten auch davon, dass einigen Leuten in den USA gleich aufgefallen sei, dass die Stimme seltsam unnatürlich klinge. SRF-Digitalredaktor Guido Berger sagt, aktuell sei KI auch im amerikanischen Englisch noch häufig leicht identifizierbar: «Bei anderen Sprachen, wie zum Beispiel Schweizerdeutsch eingefärbtes Hochdeutsch, kann man dies in der Regel sehr gut sofort von Ohr erkennen.»
Guido Berger
Leiter Digitalredaktion
Technologie ist auf dem Vormarsch: In diesem Beispiel ist der Betrugsversuch am Telefon aufgeflogen. Andere Beispiele zeigen aber, dass mit KI bereits einiges möglich ist. Stefan Bernhardsgrütter ist Securitytester bei Redguard. Er durchsucht im Auftrag von Firmen, Kantonen und Bund Systeme auf ihre Schwachstellen. KI generierte Stimmen hätten er und sein Team auch schon getestet: «Es gibt bereits Dienste, die menschliche Stimmen klonen können. Für so ein Abo bezahlt man etwa 30 US-Dollar pro Monat. Da braucht man etwa eine Minute klares Stimmmaterial, um ein Stimmprofil relativ gut zu klonen.»
Instrument für «Social Engineering»: Bernhardsgrütter sagt, bei uns bekannten Stimmen fallen wir leichter auf solche Cyberkriminellen herein. Stichwort Social Engeneering: «Darunter versteht man menschlichen Charakterzüge oder Eigenheiten auszunutzen. Dass ich zum Beispiel helfen möchte, wenn jemand in Not ist. Wenn das von einer scheinbar vertrauenswürdigen Person kommt, ist man schon eher bereit, dieser Person zu helfen. Und das ist eben wirklich sehr einfach und sehr kostengünstig mit diesen neuen Technologien.»
Enkeltrickbetrüger reiben sich die Hände: Bernhardsgrütter und sein Team hätten ihre Stimmen diesen günstigen KI-Diensten überlassen und gestaunt: «Wir konnten nicht mehr unterscheiden, ob das die Person A oder Person B ist. Insgesamt ist es sehr trivial, heute solche Stimmprofile zu klonen.» Gerade beim bekannten Enkeltrickbetrug könnten solche KI-Dienste Betrügern missbrauchen.
Wie können wir uns schützen vor solchen Betrügereien? SRF-Digitalredaktor Berger weiss Rat: «In der Regel geht es den Cyberkriminellen um zwei Ziele: Entweder geht es darum, dass man Username und Passwort irgendeines Accounts hergibt. Oder es geht darum, Geld irgendwohin zu überweisen.» An diesen zwei Zielen ändere sich nichts durch den Einsatz von KI. Bei diesen Punkten sollten also die Warnlampen angehen, so Berger.
Katz-und-Maus-Spiel in der Computersicherheit: Dazu kommt, dass auch die Gegenseite KI immer besser zu nutzen wisse, wie der SRF-Digital-Experte weiter sagt: «Nur weil die Betrüger jetzt KI einsetzen, haben sie nicht plötzlich längere Spiesse. Bei den Verteidigern kommt KI ebenfalls zum Einsatz. Deshalb sind ihre Spiesse ebenso lang.»
