Darum geht es: Nimmt Künstliche Intelligenz (KI) dem Menschen bald das Denken ab? Ist sie eine Gefahr für Rechtsstaat und Demokratie? Oder viel mehr Wegbereiterin für Innovationen? Noch ist offen, wohin die Entwicklung führt. Vieles scheint abstrakt. Doch die EU macht sich nun daran, das Abstrakte mit einem konkreten Gesetz zu regeln. Wird das Gesetz verabschiedet, wäre es das weltweit erste zur umfassenden Regulierung von KI.
Wie das EU-Parlament Künstliche Intelligenz regulieren will: Das Europäische Parlament hat am Mittwoch seine Position zum von der EU-Kommission vorgeschlagenen Gesetz festgelegt. KI-Systeme sollen nach dem Willen des EU-Parlaments in verschiedene Risikogruppen unterteilt werden. Je mehr Risiko von einer KI-Anwendung ausgeht, desto strikter soll sie reguliert werden. Als hochriskant sollen beispielsweise Systeme gelten, die zur Beeinflussung von Wählerinnen und Wählern eingesetzt werden können.
Was verboten werden soll: In gewissen Bereichen soll die Anwendung Künstlicher Intelligenz ganz verboten werden. So soll etwa die Gesichtserkennung in Echtzeit im öffentlichen Raum nicht erlaubt sein. Darunter könnte etwa Videoüberwachung mit automatischer Gesichtserkennung an Bahnhöfen fallen.
Auch sogenannte Sozialkreditsysteme sollen verboten werden. Solche Systeme werden in China bereits getestet und angewendet. Sie sammeln Daten über das soziale Verhalten oder die Zahlungskraft von Menschen und können die Grundlage für Strafen bilden. Auch Systeme, die Menschen nach ethnischen Merkmalen, dem Geschlecht oder der politischen Orientierung klassifizieren, sollen verboten werden
Was ist mit Systemen wie ChatGPT? Anbieter von sogenannten «generativen KI-Systemen» - wie es zum Beispiel der Textroboter ChatGPT eines ist – müssen nach dem Willen des Parlaments bestimmte Transparenzanforderungen einhalten. Sie müssen offenlegen, wenn Inhalte von Künstlicher Intelligenz generiert worden sind. So sollen beispielsweise auch sogenannte Deepfake-Fotos und -Videos von realen Bildern unterscheidbar gemacht werden.
So geht es weiter: Noch ist das Gesetz nicht beschlossene Sache. Das EU-Parlament, die EU-Kommission und die EU-Mitgliedstaaten müssen sich nun gemeinsam auf einen definitiven Gesetzestext einigen. Diese sogenannten Trilog-Verhandlungen könnten sich noch Monate hinziehen.
