Grok-Skandal: EU leitet Ermittlung gegen Elon Musks X ein

Nachdem Elon Musks KI-Chatbot Grok es Nutzer:innen ermöglichte, Fotos von Personen so zu manipulieren, dass sie nackt, leicht bekleidet oder anderweitig sexualisiert erscheinen, zieht die EU-Kommission die Reißleine. Sie startet eine Untersuchung gegen die Plattform X, die zu Musks Firma xAI gehört. Der Verdacht: Das Unternehmen habe die Risiken bei der Einführung seiner Künstlichen Intelligenz auf der Online-Plattform nicht richtig bewertet und reduziert.

Von der Leyen: Europa toleriert kein "unvorstellbares Verhalten"

Wie die "Tagesschau" berichtet, hat Grok innerhalb von elf Tagen rund drei Millionen sexualisierte KI-Bilder von Frauen und Mädchen generiert und veröffentlicht. Darunter sollen mindestens 23.000 Fotos von Kindern sein. Aufsehen erregten prominente Fälle wie die US-Sängerin Taylor Swift, die Schauspielerin Selena Gomez und die frühere Vizepräsidentin Kamala Harris.

Grok gab an Silvester an, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die als Kindesmissbrauch gelten könnten.

"In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren", sagte EU-Kommissionspräsidentin Ursula von der Leyen. Die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben.

US-Regierung droht mit Einreisesperren

Es ist nicht die erste Untersuchung der Europäischen Kommission gegen X. Auf Grundlage europäischer Digitalgesetze ermittelt die EU in mehreren Fällen gegen die Plattform, etwa wegen der Moderation und des Risikomanagements illegaler Inhalte. Erst Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt.

In Washington wurde das Urteil nicht gut aufgenommen. Es wurden Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie gegen andere Europäer:innen verhängt. Die Reaktion deutet darauf hin, dass weitere Maßnahmen gegen US-Tech-Konzerne aus Brüssel unerwünscht sind.

US-Außenminister Marco Rubio begründete die Einreisesperren auf X damit, dass die EU angeblich gezielt amerikanische Plattformen attackiere. Elon Musk wurde noch deutlicher und forderte, die EU komplett abzuschaffen. Das Eingreifen der EU-Behörde sieht er als Verletzung der Meinungsfreiheit.

EU-Kommissionssprecher Thomas Regnier weist das in der "Tagesschau" vehement zurück. "Wer es wagt, Meinungsfreiheit mit der Verbreitung von kinderpornografischem Material zu vergleichen, oder Meinungsfreiheit mit dem digitalen Entkleiden von Frauen ohne deren Einwilligung – der lebt nicht im Einklang mit den Werten Europas."

Irreparabler Schaden für Opfer

X hat auf öffentlichen Druck Maßnahmen ergriffen, die unangemessene Nutzung des Chatbots zu beschränken. So können nur Abonnent:innen Bilder bearbeiten, diese sind jedoch weiterhin für alle öffentlich einsehbar. Der EU-Kommission reichte das nicht, woraufhin "technologische Maßnahmen" folgten, die sexualisierte KI-Bilder verhindern sollen.

Zwar lobt ein Sprecher der EU-Kommission die Erfolge in der Kommunikation mit dem Unternehmen. Für Betroffene kommt das aber zu spät, wie Alexandra Geese, Grünen-Abgeordnete im Europaparlament, kritisiert: "Der Schaden für Millionen von Frauen und viele Kinder ist irreparabel."

Auch in den News:

• "Respektlos": Pistorius hält Entschuldigung von Trump für angebracht

• Star-Investor Maschmeyer will Verwaltung durch KI ersetzen

• Dänen nutzen App, um US-Waren im Supermarkt zu boykottieren

Sperrung als letztes Mittel

Grok in der EU zu sperren, sei nicht das Ziel der EU-Kommission, so ein Sprecher, sondern eher ein letztes Mittel. Stattdessen konzentriert sich das Verfahren auf Grundlage des Digital Services Act (DSA) darauf, ob X dem Risiko für "geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden" angemessen begegnet. Sollte X das nicht beweisen können, drohen erneute Strafen. Wie lange das Verfahren dauern wird, ist unbekannt.

In Großbritannien wurde wegen der sexualisierten Grok-Bilder bereits im Januar eine offizielle Untersuchung gegen X eingeleitet. Daraufhin beschimpfte Musk die britische Regierung als "faschistisch".

Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Sie wirft dem Unternehmen vor, dass manipulierte Algorithmen rechtsextremen Inhalten unverhältnismäßige Aufmerksamkeit entgegenbringen.