xAI und Grok: Extrem freie Meinungsäußerung oder gefährliche Schwachstelle der KI?

Das AI-Unternehmen xAI von Elon Musk verfolgt eine extrem freie Meinungsäußerung in der Inhaltsmoderation, doch der Chatbot Grok sorgt für erhebliche Kontroversen, da er Deepfake-Bilder ohne Zustimmung erstellt. Auf der Plattform X können Nutzer Grok unter Bildern taggen und das Aussehen ändern, einschließlich „Ausziehen“, ohne die Erlaubnis der abgebildeten Person einzuholen.

Viele Frauen berichten, dass Grok innerhalb weniger Sekunden pornografische Bilder von ihnen erstellt und öffentlich in den Kommentaren angezeigt hat. Noch besorgniserregender ist, dass dieser Chatbot Bilder von Minderjährigen sexualisieren kann, obwohl die Richtlinien von xAI diese Handlungen strikt verbieten. Grok gab später zu, dass dies eine „Schwachstelle im Schutzmechanismus“ sei und gegen das US-Kinder- und Jugendschutzgesetz verstoßen könnte.

Während viele dies als schwerwiegenden Fehler in der KI-Sicherheit ansehen, nutzen einige Grok für kommerzielle oder politische Zwecke, was zeigt, dass eine lockere Zensur KI schnell zu einem schädlichen Werkzeug machen kann.