Grupa amerykańskich senatorów wezwała Apple i Google do usunięcia aplikacji X oraz Grok ze swoich sklepów z aplikacjami.
W liście skierowanym do prezesa Apple Tima Cooka oraz dyrektora generalnego Google Sundara Pichaia senatorowie Ron Wyden, Ben Ray Lujan oraz Edward Markey wyrazili głębokie zaniepokojenie niedawnymi incydentami związanymi z masowym generowaniem bez zgody seksualizowanych wizerunków kobiet i dzieci.
Kontrowersje narosły w ciągu ostatniego tygodnia, gdy pojawiły się doniesienia o wykorzystywaniu narzędzi do generowania obrazów opartych na sztucznej inteligencji w Groku do tworzenia grafik przedstawiających kobiety i dzieci w bikini lub bieliźnie. Funkcje te były dostępne w ramach platformy X, należącej do X Corp, oraz w dedykowanej aplikacji Grok. W odpowiedzi na krytykę firma X miała ograniczyć możliwość generowania obrazów w odpowiedzi na wpisy w serwisie X dla użytkowników nieopłacających subskrypcji. Jak jednak zauważa serwis The Verge, narzędzia te przez cały czas pozostają dostępne dla użytkowników płatnych oraz poprzez osobną zakładkę Grok w aplikacji X i w samodzielnej aplikacji Grok.
Senatorowie argumentują, iż tego rodzaju treści stanowią poważne naruszenie regulaminów sklepów App Store oraz Google Play. W liście podkreślono, iż są to materiały szkodliwe i prawdopodobnie nielegalne, które nie powinny być tolerowane na platformach deklarujących dbałość o bezpieczeństwo użytkowników. Zdaniem polityków Apple i Google mają obowiązek usunąć aplikacje do momentu skutecznego usunięcia naruszeń zasad.
W szczególności przywołano regulamin Apple, który zabrania publikowania treści obraźliwych lub budzących powszechny niesmak. Senatorowie wskazali, iż bez zgody generowane seksualizowane wizerunki kobiet i dzieci bezsprzecznie mieszczą się w tej kategorii. Dodatkowo zasady Apple jednoznacznie zakazują treści o charakterze jawnie seksualnym lub pornograficznym, w tym materiałów mających na celu pobudzanie erotyczne, a nie wywoływanie reakcji estetycznych lub emocjonalnych.
Autorzy listu ostrzegają, iż ignorowanie działań X podważyłoby wiarygodność praktyk moderacyjnych Apple i Google. Zwracają również uwagę, iż brak reakcji osłabiłby argumentację firm, które zarówno publicznie, jak i w postępowaniach sądowych twierdzą, iż ich sklepy z aplikacjami oferują użytkownikom bezpieczniejsze środowisko niż instalowanie aplikacji spoza oficjalnych platform. Według senatorów jest to szczególnie istotne w kontekście sprzeciwu obu firm wobec zmian legislacyjnych mających zwiększyć konkurencję na rynku sklepów z aplikacjami oraz zarzutów dotyczących nadużywania pozycji rynkowej.
Na zakończenie senatorowie zażądali pisemnej odpowiedzi ze strony Apple i Google do 23 stycznia, oczekując jasnego stanowiska oraz informacji o podjętych lub planowanych działaniach w tej sprawie.
