Apple wyciąga najcięższe działa: groźbę wyrzucenia aplikacji Grok i X z App Store. Powód? Seksualizowane deepfake’i, w tym obrazy kobiet i nieletnich, generowane na życzenie użytkowników.
Grok to chatbot rozwijany przez xAI – firmę Elona Muska – mocno zintegrowany z X-em (dawniej Twitterem). Jedną z jego funkcji jest generowanie i przerabianie obrazów. I właśnie ta funkcja stała się w styczniu epicentrum afery. Grok bez większego oporu „rozbiera” ludzi na zdjęciach: przerabia zwykłe fotografie na seksualizowane, w tym w kontekście przemocy, upokorzenia, a choćby śmierci. W wielu przypadkach chodziło o osoby, które nigdy nie wyraziły zgody na takie wykorzystanie swojego wizerunku – w tym kobiety i dzieci.
Grok potrafił generować tysiące takich obrazów na godzinę, zalewając X-a falą nielegalnych i skrajnie nieetycznych treści, co w praktyce umożliwia cyfrową przemoc na skalę, jakiej wcześniej nie było. Trzech senatorów z ramienia Demokratów – Ron Wyden, Ed Markey i Ben Ray Luján – napisało wówczas otwarty list do szefów Apple’a i Google’a, wprost wzywając ich do wyrzucenia X i Groka z App Store i Sklepu Google Play, dopóki problem nie zostanie rozwiązany. W liście padło zdanie, które dobrze streszcza ich stanowisko: „Przymykanie oka na rażące zachowanie X uczyniłoby z waszych zasad moderacji kpinę”.
Apple wtedy nie zrobił nic. Przynajmniej tak się wydawało.
Za kulisami wojna. Apple bezpośrednio odezwał się do władz X-a
Dopiero teraz, dzięki ujawnionemu przez NBC News listowi Apple’a do tych samych senatorów, wiemy, co działo się za kulisami. Firma z Cupertino przyznała, iż uznała zarówno X, jak i Groka za aplikacje naruszające zasady App Store, skontaktowała się z zespołami odpowiedzialnymi za obie aplikacje, zażądała planu poprawy moderacji treści i wprost zagroziła usunięciem aplikacji z App Store, jeżeli zmiany nie będą wystarczające.
X i xAI przesłały do Apple aktualizację Groka, ale ta została odrzucona – Apple uznał, iż „zmiany nie zaszły wystarczająco daleko”. Dopiero kolejna runda poprawek sprawiła, iż X został uznany za „w dużej mierze zgodny”, a Grok – po dalszych modyfikacjach – ostatecznie dostał zielone światło. Tymczasowo.
Niestety firma Muska nie podołała zadaniu i po chwili spokoju Grok xnów potrafi generować seksualizowane obrazy prawdziwych osób bez ich zgody. Różnica polega na tym, iż wolumen takich obrazów znacząco spadł w porównaniu ze styczniem, ale wciąż istnieje grupa użytkowników, która potrafi obchodzić ograniczenia. A Apple wraca do swojej „groźby”.
Na dziś X i Grok są przez cały czas dostępne w App Store, zarówno w amerykańskiej, jak i polskiej wersji tego sklepu. Apple nie komentuje sprawy dla amerykańskich mediów, nie prosiliśmy więc sami o komentarz. Tym niemniej X – cokolwiek by o nim nie myśleć – jest jedną z najważniejszych i najpopularniejszych mediów społecznościowych na świecie. o ile Apple faktycznie spełni swoje groźby i usunie X-a z iPhone’ów i iPadów oznaczałoby to znaczące osłabienie znaczenia tej platformy. Mając na uwadze dominujące tam treści… może to i lepiej?