Zu freizügige Fotos: Musk-KI Grok schränkt Bild-Generator für die meisten User ein

Die Plattform X von Tech-Milliardär Elon Musk war in den vergangenen Tagen vermehrt in die Kritik geraten. Nutzer:innen konnten den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu erstellen - auch von Kindern. Jetzt hat das Unternehmen offenbar reagiert.

Bittet man Grok nun auf X, ein Bild zu generieren oder zu bearbeiten, antwortet der Bot: "Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt." Danach folgt ein Link, um ein solches Abo abschließen zu können. Der britischen Zeitung "The Guardian" zufolge ist die Funktion den meisten X-Nutzern damit nicht mehr zugänglich.

Grok-KI erlaubt Bildbearbeitung nur noch für zahlende Kund:innen

Die EU hatte am Donnerstag (8. Januar) angekündigt, einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Musk gehen zu wollen. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zu Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob sich X an europäische Digitalgesetze halte.

Sexualisiertes Bild von Teenagerinnen erzeugt

An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert. Der EU-Kommissionssprecher betonte: "Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel."

Starmer wettert gegen X: "Widerlich"

Kritik an der KI kommt auch aus Großbritannien. Premierminister Keir Starmer bezeichnete die Deepfake-Bilder von Kindern als "widerlich". und "ekelhaft". Die britische Medienaufsichtsbehörde Ofcom hatte X am Montag um dringende Stellungnahme gebeten. Starmer betonte laut "The Guardian", dass Ofcom die "volle Unterstützung bei ihren Maßnahmen in dieser Angelegenheit" habe. Er fügte hinzu: "X muss endlich handeln und dieses Material entfernen lassen. Wir werden dagegen vorgehen, denn das ist schlichtweg nicht hinnehmbar."