Sicherheit vs. Profit - Streit bei ChatGPT-Erfinder OpenAI eskaliert

Es gehe nur um Profit, Sicherheit spiele keine Rolle – kritisieren ehemalige Mitarbeitende. Vom Streit profitiert OpenAI.

Bei OpenAI, dem Unternehmen, das hinter dem KI-Modell ChatGPT steht, gehen die Wogen hoch. Mehr dazu weiss SRF-Wirtschaftsredaktor Pascal Lago.

Pascal Lago

Wirtschaftsredaktor

Pascal Lago hat Ökonomie in Zürich und St. Gallen studiert. Er arbeitet seit März 2022 als Wirtschaftsredaktor bei Radio SRF.

Warum brodelt es bei ChatGPT-Erfinder OpenAI?

OpenAI hat die Sicherheitsabteilung aufgelöst. Das ist das Team, das dafür sorgen soll, dass die künstliche Intelligenz im Sinne der Menschheit agiert und sich nicht gegen die eigene Schöpferin auflehnt. Gleichzeitig äussern sich die zwei ehemaligen Verwaltungsrätinnen Helen Toner und Tasha McCauley zum ersten Mal öffentlich und kritisieren OpenAI und dessen Chef Sam Altman scharf.

Was sind die Vorwürfe an Altman und OpenAI?

Bei OpenAI zähle nur der Profit, die Sicherheit und ethische Bedenken hätten keinen Platz, sagen die Ex-Verwaltungsrätinnen. Ob das stimmt, lässt sich nicht unabhängig überprüfen. Sicher ist nur, dass es bei OpenAI interne Meinungsverschiedenheiten gab. Dem CEO Sam Altman wird ein manipulativer, schwieriger Führungsstil nachgesagt. Und es gibt interne Machtkämpfe.

Was soll das neue Safety Committee von OpenAI?

OpenAI antwortet auf die Kritik und hat ein neues Sicherheitskomitee angekündigt. Das, nachdem das interne Team für KI-Sicherheit aufgelöst wurde. Das neue Komitee soll die KI-Systeme überwachen. CEO Sam Altman sitzt selbst mit am Tisch. Toner und McCauley kritisieren diese Art von Selbstregulierung als einen zahnlosen Tiger. Es brauche jetzt eine griffige staatliche Regulierung in den USA.

Profitieren Sam Altman und OpenAI von der KI-Regulierung?

Der umstrittene OpenAI-Chef Sam Altman.

Imago

Sam Altman sitzt in einem KI-Ausschuss des US-Ministeriums für Innere Sicherheit und berät dort die Regierung und die Privatwirtschaft. Künftige KI-Regulierungen dürften ihm nützen. Denn OpenAI ist längst kein armes Start-up mehr. OpenAI dürfte sich dank der Milliarden Dollar an Investorengeldern, unter anderem von Hauptsponsor Microsoft, viel eher teure Anwälte leisten können, um Regulierungsvorschriften einzuhalten, als kleinere Konkurrenten.  

Schadet die Kritik OpenAI und Altman?

Im Gegenteil. Die Diskussion dreht sich momentan fast ausschliesslich um die Superintelligenz – dass eine KI intelligenter wird als wir Menschen und uns somit überflügelt. Dabei ist es unter Experten umstritten, ob eine solche Superintelligenz jemals entstehen wird. Je mehr Menschen aber darüber reden, desto weniger wird das hinterfragt. Dieser Glaube an eine Superintelligenz hilft Altman und OpenAI beim Einsammeln des Geldes von Investoren. Und er lenkt von der Frage ab, ob OpenAI überhaupt langfristig profitabel sein kann.

Super KI – eine Ablenkung von realistischeren Gefahren?

Die Debatte um eine Superintelligenz kann davon ablenken, welche Gefahren von der KI ausgehen, die bereits heute real existieren – und gegen die bereits heute etwas getan werden könnte. Deep Fakes zum Beispiel. Mithilfe von ChatGPT und anderen KI-Tools werden unter anderem russische Propaganda verbreitet und Wahlen beeinflusst. Im Februar, am Rande der Münchner Sicherheitskonferenz, versprachen OpenAI und andere Tech-Unternehmen, dass sie gemeinsam gegen diese neue Welle von Fakenews vorgehen und etwa Bilder oder Videos markieren, wenn sie von KI hergestellt wurden. Bis jetzt ist dieses Versprechen allerdings nicht eingelöst worden.