Es sieht aus wie ein gewöhnliches Plüschtier. Im Innern verbirgt sich allerdings ein Computer, der das KI-Tool ChatGPT integriert hat. Damit ist es möglich, mit der Plüschrakete quasi echte Gespräche zu führen. Entwickelt hat dieses KI-Spielzeug das amerikanische Start-Up Curio.
Isabel Wagner, Professorin für Cyber Security an der Universität Basel, hat das KI-Spielzeug hinsichtlich Datenschutz und Privatsphäre von Kindern untersucht. Dabei stellte sie fest, dass das Gerät kontinuierlich Audiodaten ins Internet überträgt. «Alles, was das Kind dem Spielzeug erzählt, wandert irgendwohin ins Internet. Die Datenschutzbestimmungen des Herstellers sichern zu, dass die Daten nur dazu genutzt werden, um diese Unterhaltung mit dem Spielzeug zu realisieren und danach sofort gelöscht werden. Aber das können wir nicht überprüfen», erklärt die Forscherin.
In den Datenschutzbestimmungen des Herstellers Curio heisst es: «Wir verwenden die aufgezeichneten Audiodaten, um diese mithilfe eines Sprache-zu-Text-Dienstes eines Drittanbieters in Text umzuwandeln. Die Tonaufnahme wird dann umgehend gelöscht.»
Risiko von Datenklau
Die Daten werden zwar verschlüsselt übermittelt, doch auf den Servern unverschlüsselt weiterverarbeitet. «Man kennt es – Firmen werden gehackt, Daten kommen weg und sind dann im Internet frei verfügbar. Das kann einer Spielzeugfirma auch passieren», warnt Wagner. Mit diesen Daten könnten etwa weitreichende Verhaltensprofile der Kinder erstellt oder deren Stimmprofile missbraucht werden.
Kritik von Kinderschutz Schweiz
Die Organisation Kinderschutz Schweiz kritisiert solche KI-Spielzeuge scharf. «Dass Daten der Kinder aus dem Kinderzimmer ins Internet abfliessen, ist ein massiver Eingriff in die Persönlichkeitsrechte des Kindes», sagt Regula Bernhard Hug, Leiterin der Geschäftsstelle von Kinderschutz Schweiz. «Und die Eltern wissen nicht, was in diesen Gesprächen zwischen Kind und Spielzeug besprochen wird. In der realen Welt sagt man den Kindern ja auch, sie sollen nicht mit fremden Personen reden. Aber genau das passiert hier mit der Künstlichen Intelligenz.»
Der Hersteller betont, dass die Eltern jederzeit die Kontrolle hätten. Via App könnten die Eltern die Transkripte einsehen und auch löschen, heisst es in der Datenschutzerklärung. Auf eine Interview-Anfrage von SRF hat das Start-up mit Sitz in San Francisco nicht reagiert.
Ständig auf Empfang
Ist das Gerät eingeschaltet, registriert es jedes Gespräch. Wie Tests der Forscherin gezeigt haben, auch solche, die im Hintergrund stattfinden. «Das Problem ist, dass man dem Spielzeug nicht ansieht, ob es eingeschaltet ist oder nicht. Die Box ist im Innern. Von aussen gibt es keine Indikatoren, die anzeigen, ob das Gerät gerade zuhört oder nicht.»
Kinderschutz Schweiz rät davon ab, solche KI-Spielzeuge zu kaufen. Die Organisation will die Eltern sensibilisieren und ein Label lancieren, das die Risiken solcher datensammelnder Spielzeuge auf den ersten Blick aufzeigt.
Die sprechende Plüschrakete ist bislang nur in englischer Sprache und in limitierter Anzahl erhältlich. Doch angesichts der rasanten Entwicklung von KI ist es wohl nur eine Frage der Zeit, bis weitere Spielzeuge mit integrierter Künstlicher Intelligenz auf den Markt kommen.
Künstliche Intelligenz ist eine technische Revolution, die das Potenzial hat, unser Leben so tiefgreifend zu verändern, wie es das Internet und Smartphones getan haben. SRF setzt sich proaktiv mit diesem hochaktuellen Thema auseinander und rückt es vom 17. bis 24. November 2024 in den Programmfokus. Im Zentrum steht die Frage «Was kann KI wirklich und was machen Menschen in der Schweiz damit?»
Finden Sie es heraus – auf www.srf.ch/ki
