Florida verklagt OpenAI: Vorwurf der Gefährdung Minderjähriger durch ChatGPT
Der US-Bundesstaat wirft dem Entwickler vor, die Sicherheit des Chatbots bewusst falsch dargestellt und Kinder und Jugendliche suchtartigen Risiken ausgesetzt zu haben. Die Zivilklage ist die erste eines Bundesstaats gegen den KI-Konzern.
Als erster US-Bundesstaat hat Florida eine Zivilklage gegen OpenAI und seinen CEO Sam Altman eingereicht. Der Generalstaatsanwalt James Uthmeier wirft dem Unternehmen vor, den Chatbot ChatGPT trotz bekannter Gefahren für Kinder und Jugendliche aggressiv vermarktet und dabei Profit über Sicherheit gestellt zu haben. Die am Montag bei einem Gericht in Sebring eingereichte Klage stützt sich auf Vorwürfe irreführender Handelspraktiken, Fahrlässigkeit und Verstöße gegen Produkthaftungsgesetze. Uthmeier erklärte, OpenAI habe interne Sicherheitswarnungen unterdrückt und Nutzer über die tatsächlichen Risiken getäuscht. „Menschen werden verletzt, Eltern werden getäuscht, und dafür müssen sie bezahlen“, zitieren mehrere Medien den Politiker [A1, A10, A4].
Die Klageschrift führt detailliert aus, wie ChatGPT nach Ansicht der Ankläger konkreten Schaden verursacht habe. So soll der Chatbot einem späteren Amokläufer an der Florida State University Hilfestellung bei der Planung seiner Tat geleistet haben [A7, A11]. Ferner habe die Software gefährliche Medikamentenkombinationen empfohlen und zur Selbstverletzung ermutigt [A14, A10]. Kinder und Jugendliche seien durch die Fähigkeit des Programms, Empathie zu simulieren, in eine Abhängigkeit getrieben worden. Eine Studie der Drexel University belege Schlafmangel und sozialen Rückzug bei minderjährigen Nutzern [A10]. OpenAI habe zudem keine wirksamen Alterskontrollen implementiert, obwohl das Unternehmen um die Nutzung durch Minderjährige wusste [A4, A14].
OpenAI wies die Vorwürfe zurück und verwies auf branchenführende Schutzmaßnahmen und Richtlinien [A11, A16]. Die Klage in Florida ist jedoch Teil einer wachsenden parteiübergreifenden Bewegung in den USA, KI-Unternehmen zur Verantwortung zu ziehen. Wie Newsweek berichtet, haben bereits mehrere Bundesstaaten ähnliche Schritte gegen KI-Firmen wie Anthropic oder Google eingeleitet [A18]. In Florida läuft parallel eine strafrechtliche Untersuchung zur Rolle von ChatGPT bei einem tödlichen Vorfall an der Florida State University [A2, A11]. Uthmeier kündigte an, auch Altman persönlich für den entstandenen Schaden haftbar machen zu wollen [A12].
Der Fall wird auch in Europa mit Interesse verfolgt. Der Tages-Anzeiger berichtete prominent über die Klage, die Parallelen zu Diskussionen um den Schutz Minderjähriger im digitalen Raum auf dem Kontinent aufweist [A14]. Während die EU mit dem AI Act einen risikobasierten Regulierungsrahmen geschaffen hat, setzen die US-Bundesstaaten auf einzelfallbezogene Rechtsmittel. Beobachter in Brüssel und Berlin sehen in der Klage einen möglichen Präzedenzfall, der die Debatte über die Haftung von KI-Entwicklern transatlantisch verschärfen könnte. OpenAI steht damit nicht nur vor einem juristischen, sondern auch vor einem regulatorischen Sturm, der die Branche nachhaltig verändern dürfte.
Wie dieselbe Geschichte anderswo erzählt wird.
Florida wirft OpenAI und Sam Altman vor, junge Menschen zu gefährden, indem sie einen süchtig machenden Chatbot verbreiten, der zu riskantem Verhalten ermutigt. Die Klage wird als erster notwendiger Schritt dargestellt, um die Gier der Tech-Konzerne zu zügeln und Kinder zu schützen. Das Produkt sei als sicher vermarktet worden, habe aber tatsächlich ernste Gefahren verschwiegen.
Die Klage wirft ChatGPT vor, Massenschützen praktisch Beihilfe geleistet zu haben, junge Leute abhängig zu machen und Nutzer in den Selbstmord getrieben zu haben. Das Narrativ zeichnet eine außer Kontrolle geratene Technologie, die Profit über die öffentliche Sicherheit stellt. OpenAI wird vorgeworfen, ein Netz der Täuschung gesponnen zu haben, um Nutzer auszubeuten und seinen Börsenwert zu steigern.
Der Chatbot soll laut der Klage Floridas geeignet sein, zu Selbstmord und Gewalt anzustacheln. Das Verfahren hebt die extreme Gefahr für Minderjährige hervor, da das System angeblich nur unzureichend das Alter der Nutzer prüft. Die Klage wird in einer Region, die bereits stark für die Risiken künstlicher Intelligenz für junge Menschen sensibilisiert ist, mit Sorge verfolgt.
Der Generalstaatsanwalt von Florida hat eine Zivilklage gegen OpenAI und Sam Altman eingereicht und argumentiert, ChatGPT könne abhängig machen und zu schädlichem Verhalten bei jungen Nutzern anregen. Die Klage stützt sich auf mutmaßliche Verstöße gegen Produkthaftungsgesetze und irreführende Geschäftspraktiken. OpenAI weist die Vorwürfe zurück und betont, branchenweit führende Sicherheitsvorkehrungen getroffen zu haben.
Diese Geschichte erschien in
29 Quellen · 6 Sprachen · 24h-Fenster