Der ChatGPT-Entwickler OpenAI gerät in den USA unter wachsenden rechtlichen Druck. Acht Bundesstaaten – Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana – haben unabhängig voneinander, aber mit ähnlichen Vorwürfen Klagen gegen das Unternehmen eingereicht.

Nach Auffassung der staatlichen Behörden hat OpenAI bei der Entwicklung von ChatGPT Sicherheitsbedenken hintangestellt und stattdessen eine profitorientierte Strategie verfolgt.

Rechtsgrundlage: Verbraucherschutzgesetze

openai1

Der gemeinsame Nenner der Klagen ist der behauptete Verstoß gegen die jeweiligen Verbraucherschutzgesetze der Bundesstaaten. OpenAI habe Nutzer und insbesondere Jugendliche nicht ausreichend über die Risiken informiert, die ChatGPT potenziell birgt.

In den eingereichten Schriftsätzen wird zudem auf einzelne Zivilklagen verwiesen, die Familien zuvor eingereicht hatten und in denen der KI-Chatbot für Suizide oder Todesfälle von Jugendlichen und Erwachsenen verantwortlich gemacht wird.

Die Staatsanwälte werfen dem Unternehmen vor, ChatGPT als sicheres, jugendgerechtes Produkt mit Vorrang für Sicherheit beworben zu haben – obwohl die Realität dem widerspreche. Die Plattform stelle gerade für verletzliche Nutzergruppen eine ernsthafte Gefahr dar, so der Vorwurf.

Welche Vorwürfe in den Schriftsätzen stehen

In den Klageschriften heißt es unter anderem, ChatGPT schwäche die kritische Denkfähigkeit der Nutzer, schüre Paranoia und Wahnvorstellungen, gebe medizinische Ratschläge, die lebensgefährlich sein könnten, und fördere ungesunde Verhaltensmuster.

Darüber hinaus wird dem Unternehmen vorgeworfen, personenbezogene Daten von Kindern ohne Einwilligung zu erheben und keine ausreichenden Maßnahmen ergriffen zu haben, um Minderjährigen den Zugang zum System zu beschränken.

Besonders scharf fiel die Kritik aus Arizona aus. In dem Schriftsatz des Bundesstaates heißt es, OpenAI habe sich von seiner ursprünglichen Identität als sicherheitsorientierter, gemeinnütziger Organisation entfernt und sei zu einem Vorbild dafür geworden, wie grundlegende Sicherheitsmaßnahmen beiseitegeschoben werden, um unter allen Umständen Profit zu erzielen.

Die Verteidigung von OpenAI

Vom Unternehmen kam eine prompte Reaktion. OpenAI-Sprecher Drew Pusateri verwies auf altersspezifische Schutzmechanismen innerhalb von ChatGPT, die es in dieser Form branchenweit als erste gebe.

Pusateri betonte, dass kein System fehlerfrei sein könne. Bestehende Maßnahmen wie Elternkontrollen, Pausenerinnerungen und altersgerechte Modellbeschränkungen wolle man in Zusammenarbeit mit Experten weiter ausbauen.