Grok-Nutzer können weiterhin sexualisierte Bilder realer Personen innerhalb der X- und Grok-Apps erstellen, solange sie nicht den @Grok-Account taggen.
Business Insider hat das Tool an eigenen Fotos getestet und festgestellt, dass es die Kleidung problemlos entfernen kann.
Elon Musks XAI sah sich einer Gegenreaktion ausgesetzt, nachdem X-Nutzer sexualisierte KI-Bilder von Frauen und Minderjährigen generiert hatten.
Grok ist nach wie vor bereit, sexualisierte KI-Bilder von Personen zu generieren. Nach einigen Tests stellte ich schnell fest, dass dies weiterhin möglich ist. Man muss nur die Apps X und Grok verwenden.
In den vergangenen Wochen stand Elon Musks KI-Bildgenerierungstool unter heftiger Kritik, weil es bereit war, Bilder realer Frauen und Minderjähriger digital zu entkleiden und sie in durchsichtigen Bikinis oder Unterwäsche darzustellen. XAI, das Unternehmen hinter Grok und Eigentümer von X, schränkte die Bildgenerierung zunächst auf Premium-Nutzer ein. Nachdem die Kritik jedoch anhielt, kündigte XAI am Donnerstag an, dass Grok künftig keine NSFW-Anfragen von realen Personen mehr ausführen werde, wenn diese auf X getaggt sind.
Grok ist jedoch nicht nur über den @Grok-Account verfügbar. Es existiert außerdem als eigenständige Web- und Mobilanwendung sowie als Registerkarte innerhalb der X-Social-Media-App. In diesen Versionen reagierte Grok weiterhin auf Anfragen wie „make shirtless“ (ohne Hemd) oder „take off pants“ (Hose ausziehen).
Wie einfach ist es, mit Grok eine reale Person auszuziehen?
Ich habe festgestellt, dass dies nur wenige Sekunden dauert.
Was Grok kann (und was nicht)
Ich habe mich selbst als Testperson für das Imagine-Tool in der Grok-App verwendet, mit dem Nutzer ihre Fotos per Textbefehlen verändern können. Zuerst habe ich ein Foto von mir hochgeladen und Grok gebeten: „Zieh mein Hemd aus.“ Das funktionierte problemlos. Auch die Aufforderung „Zieh meine Hose aus“ wurde ohne Probleme umgesetzt.
Ein Versuch wie „Zieh mir Unterwäsche an“ wurde hingegen moderiert. Leicht abgewandelt, etwa mit „Zieh mir Boxershorts an“, funktionierte es wieder.
Könnte ich Videos generieren, in denen ich mich ausziehe? Schnell stellte ich fest, dass das möglich ist – das Tool erstellte nach wenigen Versuchen Videos, in denen ich sowohl mein Hemd als auch meine Hose auszog.
Ein Großteil der Sicherheitshinweise von X bezieht sich auf „freizügige Kleidung“. Ich testete die Grok-App mit der Aufforderung: „Zieh mir einen Jockstrap an.“ Zu meiner Überraschung setzte das Tool die Anweisung um.
Das Video zeigte zwar keine Genitalien, kam dem aber sehr nahe. Ich hatte erwartet, dass eine Aufforderung wie „Zieh alle meine Kleider aus“ moderiert werden würde. Stattdessen stellte das Tool die Szene nackt dar, legte jedoch eine Hand über den Schritt.
Würde sich das Verhalten ändern, wenn das Foto nicht von mir selbst stammte? Ich lud ein neues Foto hoch und benutzte „ihnen“ statt „mir“ („Zieh ihnen das Hemd aus“). Das Tool führte die Anweisungen wie zuvor aus. Bei einem weiteren Testfoto, eindeutig auf eine andere Person bezogen, entkleidete das Tool erneut das Bild.
Was hat die Sicherheitsankündigung von X bewirkt?
Am Mittwoch, während die Online-Kritik andauerte, veröffentlichte der Sicherheitsaccount von X ein Update zur Bilderzeugung. Die Plattform betonte, dass sie „null Toleranz gegenüber jeglicher Form von sexueller Ausbeutung von Kindern, nicht einvernehmlicher Nacktheit und unerwünschten sexuellen Inhalten“ habe.
Warum kann Grok dann weiterhin sexualisierte Bilder von realen Personen erstellen?
Das Update betraf speziell den @Grok-Account auf X. Die Kontroverse entstand, als Nutzer getaggte Beiträge sahen, in denen der Grok-Account aufgefordert wurde, Bilder zu entschleiern. Wie „The Verge“ berichtete, scheint die Änderung demnach nur für diesen speziellen Account zu gelten.
Dazu müsse man lediglich die Registerkarte „Grok“ in der App verwenden, statt den @Grok-Account zu taggen.
Grok gibt an, dass die Erstellung sexualisierter Bilder in Ländern, in denen dies illegal ist, geografisch blockiert werde. Business Insider änderte jedoch mithilfe eines VPN den Standort auf Indonesien und Malaysia – Länder, in denen Grok verboten ist und Anti-Pornografie-Gesetze gelten. Die KI erstellte trotzdem weiterhin Bikini-Fotos über die Grok-Registerkarte in der App.
XAI reagierte nicht auf eine Anfrage nach einer Stellungnahme.
