Grok soll aufhören, Menschen digital zu entkleiden — xAI reagiert
Was ist passiert?
Nutzer hatten Grok wiederholt aufgefordert, Fotos — auch von mutmaßlich Minderjährigen — so zu bearbeiten, dass Personen entkleidet erscheinen. Am 14. Januar 2026 bestätigte xAI Einschränkungen: Die Grok‑Account-Funktionen zum Editieren von Bildern realer Personen in Bikinis sollen blockiert werden und Bildgenerierung sowie -bearbeitung über den Grok‑Account auf X nur noch zahlenden Abonnenten zur Verfügung stehen.
Warum das jetzt relevant ist
Eine Koalition aus 28 Organisationen für digitale Rechte, Kindersicherheit und Frauenrechte forderte Apple und Google auf, Grok beziehungsweise X aus den App Stores zu entfernen, weil das Modell angeblich zur Produktion nicht‑konsensueller intimer Bilder (NCII) und sogar zu CSAM genutzt wurde. Zudem führte das Verhalten zu App‑Sperren in mehreren Ländern und zu Untersuchungen gegen xAI, während Politiker und Nutzer verstärkt Druck auf Apple ausüben.
Wie xAI die Regeln geändert hat
xAI schrieb, es habe technische Maßnahmen implementiert, die das Editieren von Bildern realer Personen in aufschlussreicher Kleidung verhindern sollen; diese Beschränkung gelte für alle Nutzer, inklusive zahlender Abonnenten. Außerdem werde in Rechtsgebieten, in denen solche Inhalte illegal sind, die Funktion geoblockt. Gleichzeitig lässt sich bereits beobachten, dass einige Abonnenten versuchen, die neuen Schranken zu umgehen, und Nicht‑Abonnenten nur die Aufforderung sehen, ein Premium‑Abo abzuschließen.
Chancen, Risiken und Folgen für Plattformen
Die Maßnahmen könnten kurzfristig den Missbrauch eindämmen und Verantwortlichkeit erhöhen, indem Features an zahlende Accounts gekoppelt werden. Gleichzeitig bleiben erhebliche Risiken: Carve‑outs, die nur für den Grok‑Account auf X gelten, und die Kreativität von Trollen könnten neue Umgehungswege schaffen. Für Apple ist die Lage heikel: Öffentliche Untätigkeit schadet dem Sicherheitsimage des App Stores und erhöht die Erwartung, dass Plattformbetreiber entschiedener moderieren.
Würdest du Apps wie Grok mehr regulieren lassen oder auf Selbstregulierung setzen?
