Der Bundesstaat Florida verklagt OpenAI wegen des angeblich gefährlichen ChatGPT-Designs

Der Bundesstaat Florida in den USA ist der erste Bundesstaat, der OpenAI wegen des angeblich gefährlichen ChatGPT-Designs verklagt, wie Ars Technica berichtet. Floridas Generalstaatsanwalt James Uthmeier warf OpenAI und dessen CEO Sam Altman vor, Gewinne über die Sicherheit der Floridianer zu stellen.

Dieser Gerichtsprozess findet statt, nachdem Florida eine nicht zusammenhängende strafrechtliche Untersuchung gegen OpenAI eingeleitet hat, nach einem mit ChatGPT verbundenen Massenamoklaus, bei dem zwei Menschen an der Florida State University getötet wurden. Offenbar stellte Uthmeier fest, dass Florida nun von zwei gewalttätigen Ereignissen überrascht wurde, bei denen Verdächtige ChatGPT zur Unterstützung der Planung nutzten.

"Schrecklicherweise hat ChatGPT bei mehr als einem Mehrfachmord im Bundesstaat Florida geholfen und unterstützt. Die Todesfälle der University of South Florida-Graduierten Nahida Bristy und Zamil Limon im Jahr 2026 wurden ebenfalls mit ChatGPT geplant, das Hisham Abugharbieh darüber informierte, wie man Leichen entsorgt, die Fahrgestellnummer eines Autos ändert und ob Autos am Tatort überprüft werden."

Der Generalstaatsanwalt Floridas zählte dann mehrere weitere reale Fälle auf, in denen ChatGPT angeblich Gewalt angeheizt hat. Doch OpenAI wird auch beschuldigt, den Chatbot so gestaltet zu haben, dass er süchtig macht und für Kinder und Erwachsene zerstörerisch ist. Chatbots, die sich als medizinische Fachkräfte oder Therapeuten ausgeben, sind laut der Beschwerde des Generalstaatsanwalts ebenfalls problematisch.

OpenAI hat eine Stellungnahme abgegeben, aber den Generalstaatsanwalt nicht erwähnt, sondern sich stattdessen auf die jüngsten Verbesserungen zur Kindersicherheit konzentriert.

"Ein Kind zu verlieren ist die verheerendste Tragödie, die einer Familie widerfahren kann, und wir wissen, dass keine Worte auch nur annähernd den Schmerz eines solchen Verlusts anfassen können. KI ist eine neue und leistungsstarke Technologie, und wir sind der Meinung, dass Minderjährige erheblichen Schutz brauchen, weshalb wir branchenführende Schutzmaßnahmen und Richtlinien eingeführt haben. Insbesondere haben wir die Sicherheit von Minderjährigen direkt in unsere Produkte integriert, darunter ein stärkeres Schutzerlebnis speziell für Minderjährige, ein Altersvorhersagetool, das Standardeinstufen von Nutzern, deren Alter wir nicht sicher sind, in unser schützenderes Erlebnis einzubinden, und Eltern Werkzeuge zur Überwachung der KI-Nutzung durch ihre Kinder. Wir wissen, dass ein Hinweis auf diese Arbeit kein Kind zurückbringen wird, aber wir sind entschlossen, es richtig zu machen."

Diese neue Klage ist nicht die erste ihrer Art. In früheren Klagen wird OpenAIs CEO Sam Altman beschuldigt, "KI-Systeme kalt ohne Rücksicht auf die Sicherheit der Nutzer eingesetzt zu haben".

Der Generalstaatsanwalt von Florida bereitet sich darauf vor, gegen alle KI-Unternehmen zu kämpfen – und nicht nur gegen OpenAI.

"Mach dich bereit für einen Kampf, und es gibt keinen wichtigeren als diesen jetzt."