Baltimore wird zur neuesten Stadt, die Elon Musks X und xAI wegen Grok-Deepfakes verklagt

Kurzfassung

• Die Beschwerde zitiert Schätzungen, wonach Grok innerhalb weniger Tage bis zu 3 Millionen sexualisierte Bilder erzeugt hat, darunter Tausende von Minderjährigen darstellende Bilder.
• Baltimore fordert zivilrechtliche Strafen, Entschädigungen für betroffene Einwohner und Gerichtsbeschlüsse, um das angebliche Verhalten zu stoppen.
• Rechtsexperten sagen, dass der Fall davon abhängen könnte, ob Gerichte KI-Systeme als aktive Schöpfer schädlicher Inhalte oder nur als passive Werkzeuge ansehen.

Baltimores Klage gegen Elon Musks xAI und den Chatbot Grok könnte darüber entscheiden, wie weit Städte bei der Regulierung künstlicher Intelligenz gehen können, wenn es keine bundesweiten Gesetze gibt, so ein Experte. Der Bürgermeister und der Stadtrat von Baltimore haben X Corp., xAI und SpaceX vor einem Gericht in Maryland verklagt, weil die Unternehmen gegen lokale Verbraucherschutzgesetze verstoßen haben sollen, indem sie Grok entwickelt und eingesetzt haben. Dieses generative KI-System soll unwillkürlich sexualisierte Bilder, auch von Minderjährigen, produziert und verbreitet haben. Die Klage behauptet, Grok ermögliche es Nutzern, „Körper zu entkleiden“ oder „Bilder zu manipulieren“ von echten Menschen mit minimalem Aufwand, was die Privatsphäre verletzt und psychischen Schaden verursacht. Dies erklärte die Anwaltskanzlei DiCello Levitt, die die Stadt zusammen mit dem Rechtsamt von Baltimore vertritt.

„Diese Deepfakes, insbesondere solche, die Minderjährige zeigen, haben traumatische, lebenslange Folgen für die Opfer“, sagte Baltimores Bürgermeister Brandon M. Scott in der Erklärung. Der Fall kommt zu einer Zeit, in der Grok weltweit stärker unter Beobachtung steht, inklusive Untersuchungen in den USA, der EU, Frankreich, Großbritannien, Australien und Irland. Außerdem wurde letzte Woche eine bundesweite Sammelklage von drei Minderjährigen aus Tennessee eingereicht, die behaupten, das Tool habe kinderpornografisches Material anhand ihrer echten Bilder erzeugt. „Diese Klage kann als strategischer Schritt einer Stadt gesehen werden, um KI in Abwesenheit bundesweiter Gesetze zu regulieren, indem Verbraucherschutz- und Gemeinwohlprinzipien genutzt werden, um KI-Unternehmen in die Zuständigkeit der Durchsetzung zu bringen“, sagte Ishita Sharma, Geschäftsführerin bei Fathom Legal, gegenüber Decrypt.

„Was die Haftung betrifft, so wird es wahrscheinlich nicht nur um die Nutzer gehen, die schädliche Inhalte anstoßen, sondern vor allem darum, ob das KI-System selbst wesentlich dazu beigetragen hat“, sagte Sharma. Sie fügte hinzu, dass, wenn Gerichte Grok „als aktiven Schöpfer und nicht nur als passives Werkzeug“ ansehen, die Verantwortung stärker auf xAI fallen wird. By Design Die Klage aus Baltimore wirft den Unternehmen vor, „Grok entworfen, vermarktet und eingesetzt“ zu haben, obwohl sie wussten, dass es nicht-einvernehmliche intime Bilder und kinderpornografisches Material erzeugen könnte, während sie öffentlich behaupteten, solche Inhalte seien verboten. Die Beschwerde zitiert Schätzungen, wonach Grok zwischen dem 29. Dezember 2025 und dem 8. Januar 2026 in nur wenigen Tagen zwischen 1,8 Millionen und 3 Millionen sexualisierte Bilder erzeugt hat, darunter etwa 23.000 Bilder von Kindern, so das Center for Countering Digital Hate und eine New York Times-Analyse. Baltimore behauptet, der Anstieg sei teilweise ausgelöst worden, nachdem Elon Musk die Bildbearbeitungsfunktion von Grok durch seine Reaktion „Perfekt“ auf ein Bikini-Bild von sich selbst, das mit dem Tool generiert wurde, verstärkt hatte. Die Anzahl der Bilder stieg von etwa 300.000 in den neun Tagen vor seinem Post auf fast 600.000 pro Tag auf X. „X ist jetzt einer der größten Verbreiter von NCII und CSAM“, heißt es in der Klage, die die eigenen Plattformrichtlinien der Beklagten, die solche Inhalte verbieten, als Beweis für irreführende Täuschung anführt. „Hinweis auf verzögerte Schutzmaßnahmen oder Untätigkeit angesichts bekannter Risiken würde die Vorwürfe der Fahrlässigkeit oder Rücksichtslosigkeit stärken“, sagte Sharma. Sie fügte hinzu, dass eine Abweisung der Klage unwahrscheinlich sei, wahrscheinlich aber eine Einigung erzielt wird. Dennoch könnte der Fall „eine wegweisende Entscheidung zur Verantwortlichkeit von KI“ werden. Die Stadt fordert zivilrechtliche Strafen, einstweilige Verfügungen zur Beendigung des rechtswidrigen Verhaltens, Entschädigungen für die Betroffenen und die Rückgabe unrechtmäßig erlangter Gewinne. Decrypt hat Elon Musk über xAI und SpaceX um eine Stellungnahme gebeten.