Der Chatbot Grok von X, der mit Künstlicher Intelligenz (KI) arbeitet, generiert massenhaft sexualisierte Deepfakes – auch von Minderjährigen. Die Europäische Union (EU)-Kommission, Großbritannien und Deutschland kündigen rechtliche Schritte an. Trotz der internationalen Empörung plant das US-Verteidigungsministerium die Integration von Grok in seine Systeme noch diesen Monat.
Die Deepfake-Welle begann Ende Dezember, als X eine neue Bildbearbeitungsfunktion für Grok einführte. Laut einer Untersuchung der europäischen Non-Profit-Organisation AI Forensics zeigen mehr als 50 Prozent der Grok-generierten Bilder Menschen in Bikini oder Unterwäsche. In 97,5 Prozent der Fälle erstellten Nutzer die Aufnahmen ohne Zustimmung der abgebildeten Personen.
Laut AI Forensics dokumentierte die Organisation 30 Fälle, in denen Grok freizügige Bilder von Minderjährigen generierte – manche erscheinen jünger als fünf Jahre. Die Internet Watch Foundation fand kriminelle Bilder von Kindern zwischen elf und 13 Jahren, die mit Grok erstellt und im Darknet verbreitet wurden.
Internationale Reaktionen
EU-Kommissionspräsidentin Ursula von der Leyen bezeichnete die Schäden durch Deepfakes dem Spiegel gegenüber als «sehr real». Sie warnte: «Wir werden den Schutz von Kindern und die Frage der Einwilligung nicht an das Silicon Valley auslagern. Wenn sie nicht handeln, werden wir es tun.» Die EU-Kommission untersucht X auf Verstöße gegen europäische Digitalgesetze.
Bundesjustizministerin Stefanie Hubig nannte die Entwicklung gegenüber der Neuen Osnabrücker Zeitung «fürchterlich» und stellte klar: «Das dürfen wir nicht hinnehmen.» Das Justizministerium arbeitet an einem Digitale-Gewalt-Schutzgesetz mit härteren Strafen für Deepfakes.
Der britische Premierminister Keir Starmer kritisierte die Inhalte scharf und forderte deren sofortige Entfernung. Die britische Regierung kündigte für diese Woche die Durchsetzung eines Gesetzes gegen Apps zum digitalen Entkleiden an. Ein Regierungssprecher kritisierte, dass X die Funktion nur für zahlende Nutzer eingeschränkt habe – dies sei «keine Lösung».
Indonesien und Malaysia blockierten Grok vollständig. Frankreichs Staatsanwaltschaft weitete ihre Verfahren gegen X aus. US-Senatoren fordern die Entfernung der X- und Grok-Apps aus App-Stores.
Pentagon plant Integration trotz Kontroverse
US-Verteidigungsminister Pete Hegseth kündigte am Montag bei einer Rede im texanischen SpaceX-Werk an, Grok in die Pentagon-Plattform GenAI.mil zu integrieren. «Sehr bald werden wir die weltweit führenden KI-Modelle in jedem nicht geheimen und geheimen Netzwerk unseres Ministeriums haben», sagte Hegseth. Das Pentagon will Grok mit «allen geeigneten Daten» trainieren, einschließlich eines «Datenvorteils aus zwei Jahrzehnten militärischer und nachrichtendienstlicher Operationen».
Hegseth betonte, die Pentagon-KI-Modelle dürften nicht «woke» sein und müssten ideologiefrei arbeiten. Das Verteidigungsministerium hatte bereits im Juli Verträge über bis zu 200 Millionen US-Dollar mit führenden KI-Firmen geschlossen, darunter xAI, Anthropic und OpenAI.
Kritik an X und xAI
Josephine Ballon, Geschäftsführerin der Opferschutzorganisation HateAid, sagte der taz: «Es ist also keinesfalls überraschend, dass ein Tool zur Bildgenerierung genau zu diesem Zweck eingesetzt wird. X hätte das antizipieren müssen, scheint es aber genau darauf anzulegen.»
Ballon erklärte: «Plattformen und Entwickler wie X und xAI tragen eine klare Verantwortung, die Risiken neuer Funktionen vor ihrer Einführung zu prüfen und zu minimieren.» Sie forderte: «Die Risiken müssen regulatorisch adressiert werden.»
Schwedens Vize-Regierungschefin Ebba Busch, von der Nutzer ein Grok-Deepfake erstellten, stellte klar: «Als Frau entscheide ich, wann, wo und für wen ich mich in einem Bikini zeige.» Ihre neunjährige Tochter sei verstört gewesen. X blockierte die Bilder später.
X beschränkte die Grok-Bildfunktion vergangenen Freitag auf zahlende Nutzer. Viele Anfragen und Bilder bleiben jedoch öffentlich zugänglich. Die Pressestelle von xAI antwortete auf internationale Medienanfragen mit «legacy media lies».
Hinweis: Dieser Artikel wurde mit Künstlicher Intelligenz (KI) erstellt.
