Online-Plattform X

Zu freizügige Fotos: Musk-KI Grok schränkt Bild-Generator für die meisten User ein

Veröffentlicht: 09.01.2026 • 11:14 Uhr

Musks KI Grok erstellt nach massiver Kritik Bilder nur noch für zahlende Nutzer:innen.

Bild: Matt Rourke/AP/dpa

Lobpreisungen für Hitler, sexualisierte Bilder von Teenagern: Der KI-Chatbot Grok auf Elon Musks Plattform X sorgt immer wieder für Ärger. Jetzt hat das US-Unternehmen reagiert.

Das Wichtigste in Kürze

Mit der KI Grok auf X ließen sich bislang freizügige Bilder erstellen.
Zuletzt gab es massive Kritik, weil auch sexualisierte Fotos von Teenagerinnen die Runde machten.
Für die Gratis-Version des Chatbots gibt es nun Konsequenzen.

Die Plattform X von Tech-Milliardär Elon Musk war in den vergangenen Tagen vermehrt in die Kritik geraten. Nutzer:innen konnten den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu erstellen - auch von Kindern. Jetzt hat das Unternehmen offenbar reagiert.

Bittet man Grok nun auf X, ein Bild zu generieren oder zu bearbeiten, antwortet der Bot: "Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt." Danach folgt ein Link, um ein solches Abo abschließen zu können. Der britischen Zeitung "The Guardian" zufolge ist die Funktion den meisten X-Nutzern damit nicht mehr zugänglich.

Grok-KI erlaubt Bildbearbeitung nur noch für zahlende Kund:innen

Die EU hatte am Donnerstag (8. Januar) angekündigt, einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Musk gehen zu wollen. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zu Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob sich X an europäische Digitalgesetze halte.

Sexualisiertes Bild von Teenagerinnen erzeugt

An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert. Der EU-Kommissionssprecher betonte: "Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel."

Starmer wettert gegen X: "Widerlich"

Kritik an der KI kommt auch aus Großbritannien. Premierminister Keir Starmer bezeichnete die Deepfake-Bilder von Kindern als "widerlich". und "ekelhaft". Die britische Medienaufsichtsbehörde Ofcom hatte X am Montag um dringende Stellungnahme gebeten. Starmer betonte laut "The Guardian", dass Ofcom die "volle Unterstützung bei ihren Maßnahmen in dieser Angelegenheit" habe. Er fügte hinzu: "X muss endlich handeln und dieses Material entfernen lassen. Wir werden dagegen vorgehen, denn das ist schlichtweg nicht hinnehmbar."