Laut einem Bericht von hat der Generalstaatsanwalt von Florida OpenAI und seinen CEO Sam Altman verklagt NBC-Nachrichten. In der Klage wird dem Unternehmen vorgeworfen, ein Produkt zu vermarkten, von dem es wusste, dass es den Benutzern schaden könnte. „Der Aufstieg von OpenAI ist auf ein Netz der Täuschung und Ausbeutung von Benutzern (einschließlich Einwohnern Floridas) zurückzuführen, das ihre Daten und Sicherheit ausnutzt, um den Marktwert von OpenAI zu inakzeptablen Kosten zu steigern“, heißt es in der Beschwerde.
Die Zivilklage zielt eher auf Sanktionen und Gerichtsbeschlüsse als auf strafrechtliche Anklagen. AG James Uthmeier sagte, die Klage „zielt darauf ab, Altman persönlich für den Schaden verantwortlich zu machen, den er den Bewohnern Floridas durch sein rücksichtsloses und vorsätzliches Verhalten als Gründer und CEO von OpenAI zugefügt hat, einschließlich seiner kaltherzigen Missachtung des Risikos für Menschenleben, das durch das Verhalten seines Unternehmens verursacht wurde.“ Uthmeier hat vor einigen Monaten ein Strafverfahren gegen das Unternehmen eingeleitet, das noch läuft.
AG James Uthmeier kündigt erste staatliche Klage gegen OpenAI und Sam Altman an
– Generalstaatsanwalt James Uthmeier (@AGJamesUthmeier) 1. Juni 2026
In der heutigen Klage werden OpenAI in vier Fällen betrügerische und unlautere Handelspraktiken, zwei Fälle von Fahrlässigkeit, zwei Fälle von Verstößen gegen Produkthaftungsgesetze und jeweils ein Fall von betrügerischer Falschdarstellung und Belästigung der Öffentlichkeit vorgeworfen. In der Klage wird außerdem behauptet, dass die Systeme des Unternehmens eine „große Gefahr von Sucht, kognitivem Verfall, Selbstmord, Gewalt und damit verbundenen Schäden“ für Benutzer darstellen.
OpenAI hat noch nicht auf die Beschwerde reagiert, aber in der Vergangenheit erklärt, dass das Unternehmen seine Systeme auf „Sicherheit bei jedem Schritt“ ausrichtet und dass es „Sicherheitsvorkehrungen getroffen hat, um Menschen, insbesondere Teenagern, zu helfen, wenn Gespräche sensibel werden.“ Das Unternehmen gibt außerdem an, seine Systeme seien darauf trainiert worden, „Gespräche zu entschärfen und Menschen zu konkreter Hilfe zu leiten“.
Leider lassen die Ereignisse in der realen Welt etwas anderes vermuten. In der Beschwerde werden einige aktuelle gewalttätige Vorfälle im Zusammenhang mit ChatGPT erörtert. Letztes Jahr kam es an der Florida State University zu einer Massenschießerei, bei der zwei Menschen getötet und mindestens sechs verletzt wurden, nachdem er angeblich seine Pläne mit ChatGPT besprochen hatte.
Diese Behauptungen deuten darauf hin, dass der Schütze vom Chatbot Ratschläge dazu erhalten hat, welche Schusswaffen er verwenden sollte und wie er die Aufmerksamkeit der Medien auf sich ziehen kann. OpenAI behauptet, dass es „nicht für dieses schreckliche Verbrechen verantwortlich ist“ und dass der Chatbot lediglich „sachliche Antworten auf Fragen mit Informationen gegeben hat, die in öffentlichen Quellen im Internet weit verbreitet waren“.
Darüber hinaus wurden Anfang des Jahres zwei Studenten der University of South Florida erschossen. Es wurde auch angenommen, dass der mutmaßliche Schütze während der Planungsphase Kontakt zu ChatGPT hatte. Aus einer eingereichten Beschwerde geht hervor, dass ihm Informationen darüber gegeben wurden, wie er die Leichen vor dem Chatbot verstecken konnte.
Dies sind die größten Fälle in Florida, aber ähnliche Situationen passieren auf der ganzen Welt. Im Februar kam es in British Columbia zu einer Massenschießerei, bei der acht Menschen, darunter Kinder, getötet und Dutzende weitere verletzt wurden. Berichten zufolge stand der mutmaßliche Schütze auch in regelmäßigem Kontakt mit ChatGPT, und das Unternehmen meldete das Konto tatsächlich wegen „Aktivitäten und Planung von Waffengewalt“. Allerdings hat OpenAI die Behörden nicht alarmiert und das Konto einfach deaktiviert. Laut einer anderen aktuellen Klage erstellte der mutmaßliche Schütze ein zweites Profil und setzte das Gespräch fort.
Es gibt auch mehrere Fälle, in denen ChatGPT angeblich Menschen dabei geholfen hat, ihren eigenen Selbstmord zu planen. Insgesamt sieht sich OpenAI mit mindestens acht Klagen konfrontiert, die auf Vorfälle von Massengewalt oder Selbstverletzung zurückzuführen sind.
Die heutige Klage in Florida beruft sich sogar auf OpenAI und ChatGPT für viele der alltäglichen Probleme, mit denen wir alle im Zusammenhang mit generativer KI konfrontiert sind. In der Klage wird argumentiert, dass die Werbung des Unternehmens, die die Fähigkeit der Software anpreist, Landwirten und anderen kleinen Unternehmen zu helfen, „nicht offenbart, dass ChatGPT falsch sein, Fehler machen oder falsche, absurde oder wahnhafte Informationen liefern kann.“
„Die Unzuverlässigkeit von ChatGPT ist gefährlich“, heißt es in der Klage. Schließlich kritisiert die Sprache die berüchtigte Neigung von ChatGPT zur Speichelleckerei und behauptet, es handele sich dabei um eine offene Taktik, die darauf abzielt, das Engagement der Benutzer zu steigern. In der Beschwerde heißt es, dass diese Praxis „zu einer stärkeren Nutzung des Chatbots, mehr Trainingsdaten für seine Verbesserung und einem größeren Marktwert für OpenAI führt.“