Bescheiden ist er, dieser ChatGPT: «Jeder hat seine Stärken und Schwächen», antwortet der Chatbot auf die Frage, wer denn besser sei – der Mensch oder die künstliche Intelligenz, kurz: KI.
ChatGPT scheint ein Realist zu sein. Ganz im Gegensatz zu Tech-Unternehmern, die in künstlicher Intelligenz die Heils- (und Geld-)Bringerin sehen: «Viele im Silicon Valley tun so, als würden sie ein superintelligentes, gottähnliches Wesen kreieren», erzählt KI-Forscherin Kate Crawford. Ihr Ziel ist es, künstliche Intelligenz zu entzaubern.
Schon der Name sei irreführend, so Crawford. Künstliche Intelligenz sei weder künstlich noch intelligent: «KI sind schlicht Rechner, deren Intelligenz sich von der menschlichen stark unterscheidet. Zudem ist die KI eine zutiefst materielle Technologie, die enorme Auswirkungen auf unsere Umwelt und unsere Gesellschaft hat.»
In ihrem Buch «Atlas der KI» zeichnet Crawford eine Art Landkarte der künstlichen Intelligenz. Sie nimmt die Leserschaft mit an meist verborgene Orte, wo die Arbeit für und mit KI tiefgreifende – eben materielle – Spuren hinterlässt.
Künstliche Intelligenz ist eine technische Revolution, die das Potenzial hat, unser Leben so tiefgreifend zu verändern, wie es das Internet und Smartphones getan haben. SRF setzt sich proaktiv mit diesem hochaktuellen Thema auseinander und rückt es vom 17. bis 24. November 2024 in den Programmfokus. Im Zentrum steht die Frage «Was kann KI wirklich und was machen Menschen in der Schweiz damit?»
Finden Sie es heraus – auf www.srf.ch/ki
«Künstliche Intelligenz beruht auf Systemen, die für unsere Augen oft unsichtbar sind. Diese Systeme wollte ich sichtbar machen.» Wer KI blind verehrt, kommt bei Crawford zurück auf den Boden der Tatsachen.
KI – der Rohstoff-Fresser
Die erste Station des Buches ist in eine Mine in Silver Peak, Nevada. Hier wird Lithium abgebaut, das für künstliche Intelligenz unentbehrlich ist. Denn digitale Assistenten, Mobiltelefone, Laptops – sie kommen ohne Lithium-Batterien nicht aus. Die Mine ist heute schon am Anschlag. Spätestens in 40 Jahren wird sie erschöpft sein.
Nicht nur die Geräte, über die wir KI nutzen, brauchen Rohstoffe. Auch die Computertechnologie: Rechenzentren gehören zu den grössten Stromverbrauchern der Welt. Fotos oder Videos etwa, die in der Cloud landen? Sie schweben nicht im Nirgendwo, sie schaden dem Planeten.
«Wenn ich ChatGPT eine Frage stelle, braucht dies ungefähr 15-mal so viel Energie wie eine normale Google-Suche», erklärt Crawford. Und die Nutzung generativer KI steigt rasant: «Man schätzt, dass der alltägliche Gebrauch von KI in zwei Jahren so viel Energie brauchen wird wie ganz Japan.» Nüchtern und klar klärt Crawford auf – im Gespräch wie im Buch. Die Besorgnis dringt bei ihr aber immer wieder durch.
Der KI auf den Zahn gefühlt
Kate Crawford ist eine Koryphäe auf dem Gebiet der KI – und gehört zu ihren schärfsten Kritikerinnen. Sie lehrt zurzeit an der University of Southern California in LA, ist Forschungsleiterin bei Microsoft Research, war an der Ecole Normale Supérieure in Paris tätig und hat sogar schon das Weisse Haus beraten.
Mich interessiert, wie Menschen immer mehr wie Roboter behandelt werden.
Eine Bilderbuch-Akademikerkarriere – und sie kann auch Kunst: Sie gestaltete Ausstellungen fürs MoMa in New York oder das Victoria and Albert Museum in London. Bekannt wurde sie aber vor allem mit einem Projekt, das sie zusammen mit dem Künstler Trevor Paglen umsetzte.
In «Training Humans» entlarvte sie ImageNet – einer der wichtigsten und grössten Trainings-Datensätze für Bilderkennung. ImageNet, das sich aus über 15 Millionen Bildern aus dem Internet speiste, sollte einer künstlichen Intelligenz beibringen, Menschen zu kategorisieren. Nur: Die Kategorien, mit denen die KI lernte, waren diskriminierend.
Die Frau im Bikini: eine Bitch. Ein Schwarzer Mensch mit strenger Miene: ein Krimineller. Der trauriger Teenie: ein Junkie. Die Datenbank und die Kategorien waren öffentlich. Doch erst Crawford und Paglen richteten den Blick einer breiten Öffentlichkeit darauf. Viele Kategorien zog ImageNet später zurück.
Die düstere Zukunft der Arbeit?
Crawford will mit ihrer Arbeit blinde Flecken in unserer Wahrnehmung von KI aufdecken – und eine ungewohnte Perspektive auf KI zeigen. Etwa im Bereich der Arbeit. Eine Frage, die dort emsig diskutiert wird: Wird KI uns einst ersetzen? Die kreativere Künstlerin, der schlauere Journalist, die produktivere Fabrikarbeiterin sein? «Mich interessiert eher die Frage, wie Menschen immer mehr wie Roboter behandelt werden», erklärt Crawford.
Im Buch berichtet sie etwa, wie sie ein Auslieferungslager von Amazon besucht. Beim zweitgrössten privaten Arbeitgeber der USA, der sich mit einem Mindestlohn von 15 Dollar rühmt, spielt KI eine entscheidende Rolle. Mit der sogenannten «Rate» («Bewertung»), die Amazon nicht an die grosse Glocke hängt, kann das Megaunternehmen kontrollieren, wie produktiv die Mitarbeitenden sind. Wer mehrmals unter den Erwartungen «performt», muss gehen.
«The Rate»: für Mitarbeitende ein Stressfaktor und Grund für Krankheit. Einige Beschäftigte protestierten dagegen – mit wenig Erfolg. An der «Rate» lasse sich nicht rütteln, antworteten die Verantwortlichen von Amazon: «Sie ist unser Geschäftsprinzip.» Der Tech-Gigant Amazon ist dabei keine Ausnahme, sondern für viele Unternehmen ein grosses Vorbild.
Künstliche Intelligenz – menschengemacht
Unbeachtet bleibe meist auch die menschliche Arbeit, die hinter künstlicher Intelligenz stehe, erklärt Crawford. Künstliche Intelligenz, das ist eigentlich eine «menschenbetriebene Automatisierung», wie es im Fachjargon heisst.
Denn auf der ganzen Welt führen Menschen repetitive Arbeiten aus, um KI in Gang zu halten: Sogenannte «Klickarbeiter» etwa labeln Inhalte, oder kontrollieren, ob die Algorithmen richtig funktionieren. Ihr Arbeit ist für KI unentbehrlich – und in den allermeisten Fällen unterbezahlt.
Es ist fast unmöglich, KI zu umgehen.
Wie weit die menschliche Schattenarbeit hinter KI gehen kann, zeigt ein absurdes Beispiel, das Crawford im Buch nennt: Die digitale Assistentin «Amy», die das Start-up x.ai ins Leben rief, war so unselbstständig, dass Mitarbeiter regelmässig Überstunden machten, um ihre Arbeit zu kontrollieren. Die arbeitsame «Amy»? Eigentlich ein Mensch.
Eine Welt ohne KI?
Eine Welt ohne «Amy», ohne KI generell: Das wünscht man sich immer wieder beim Lesen des Buches. Gibt es denn Auswege aus der KI? Crawford lacht: «Es ist fast unmöglich, KI zu umgehen. Sie steckt in jedem Handy-Foto, in jeder E-Mail, in beinahe jeder Suchanfrage. KI gehört zu unserer Infrastruktur.»
Weil KI unvermeidbar sei, sei es wichtig, dass wir das Thema KI nicht den Tech-Giganten überlassen, sondern KI zum Diskussionsthema in der Gesellschaft machen: «KI wird die Art und Weise verändern, wie unsere Gesellschaften funktionieren. Deshalb sollten wir auch gemeinsam darüber diskutieren, wo KI genutzt werden soll – und wo nicht.»
Ein entscheidender Moment
Crawfords Atlas bietet Orientierung, in einer Welt, in der KI eine immer grössere Rolle spielt. Die Orte, an denen die Konsequenzen der KI spürbar werden, stimmen düster. Grund zu Verzweifeln? Crawford sieht’s positiv. Das Erkennen, dass KI schwerwiegende Folgen für die Gesellschaft und die Umwelt haben kann, soll uns alle ermächtigen: «Wir müssen uns bewusst sein, dass wir nicht jede Technologie einfach hinnehmen müssen», betont Crawford. «Wir müssen uns fragen, wie wir die Tools einsetzen wollen – und wo sie vielleicht Schaden anrichten könnten.»
KI ist eine grosse Herausforderung – sowohl in technischer als auch in ethischer und gesellschaftlicher Hinsicht.
Strenge Regulierung auf politischer Ebene hält Crawford deshalb für entscheidend. Die EU mit ihrer KI-Verordnung sei ein Vorbild. Sie soll sicherstellen, dass KI-Systeme sicher, ethisch und vertrauenswürdig sind. «Es ist aber noch früh. Wir werden sehen, wie diese Verordnung funktionieren wird.»
Zu gross für das Individuum
Die Politik muss handeln, doch was kann man im Kleinen tun? Ob es sich denn lohne, als Privater keine Päckchen mehr bei Amazon zu bestellen – oder ChatGPT besser nichts mehr zu fragen?
«Wenn jemand nicht mehr bei Amazon bestellen oder ChatGPT nicht mehr nutzen will, werde ich diese Person nicht davon abhalten», sagt Crawford schmunzelnd. Aber es sei wie in den 1990er- und 2000er-Jahren, als man dachte, dass die Umwelt gerettet werden könne, wenn alle einzeln recyclen. Auch die Herausforderung künstliche Intelligenz ist für das Individuum zu gross.
Das weiss auch ChatGPT: «KI ist eine grosse Herausforderung – sowohl in technischer als auch in ethischer und gesellschaftlicher Hinsicht.» Höchste Zeit, diese anzunehmen.
