Należące do Elona Muska X i xAI zmieniają zasady działania Groka po fali krytyki i interwencjach organów regulacyjnych. Nowe zabezpieczenia mają ograniczyć deepfejki, ale część funkcji znika tylko dla użytkowników bez subskrypcji.
Po kilku dniach narastającej krytyki i serii międzynarodowych interwencji xAI oraz należąca do Elona Muska platforma X ogłosiły zmiany w działaniu chatbota Grok. Firma deklaruje, iż narzędzie nie będzie już umożliwiać edycji zdjęć prawdziwych osób w sposób prowadzący do ich „rozbierania” ani generowania wizerunków w bikini czy bieliźnie. Równolegle niemal wszystkie funkcje generowania obrazów zostały przeniesione za paywall – subskrypcję X Premium.
Grok rozbierał ludzi. X w końcu podjął działania
Decyzja jest odpowiedzią na falę oburzenia po pojawienia się na platformie X trendu, w którym Grok był wykorzystywany do tworzenia niekonsensualnych, seksualizowanych deepfake’ów kobiet, a także treści sugerujących seksualizację nieletnich. Użytkownicy X w komentarzach do różnych fotografii prosili czatbota Grok by ten edytował daną grafikę, usuwając z niej ubrania i zastępując je bielizną lub bikini. Czatbot bez żadnych uprzedzeń ani ostrzeżeń wykonywał polecenia. W przestrzeni internetowej krążyły również obrazy wygenerowane przez Groka przedstawiające znanych polityków – w tym prezydenta Polski i pierwszej damy – w kostiumach kąpielowych, co stało się symbolem problemu z brakiem skutecznych barier po stronie narzędzia.
Sprawa gwałtownie przestała być jedynie problemem wizerunkowym. W Stanach Zjednoczonych śledztwo wszczął prokurator generalny Kalifornii Rob Bonta, a publiczne wezwanie do jego rozpoczęcia wystosował gubernator Gavin Newsom. Według przywoływanych przez urząd analiz ponad połowa z około 20 tysięcy obrazów wygenerowanych przez Groka na przełomie roku miała przedstawiać osoby w minimalnym ubraniu, w tym postacie wyglądające na dzieci.
W Wielkiej Brytanii, po tym jak po internecie zaczęły krążyć deepfejki premiera Keira Sarmera w bikini, sprawą zajął się lokalny regulator Ofcom. Malezja i Indonezja zdecydowały się natomiast na całkowitą blokadę Groka, wskazując wprost na zagrożenia związane z nieograniczonym generowaniem treści o charakterze seksualnym.
xAI zapewnia dziś o „zerowej tolerancji” dla treści naruszających prawo, w tym pornografii dziecięcej oraz niekonsensualnej nagości. Wobec czego X poinformował o założeniu blokady edytowania zdjęć prawdziwych osób w „odsłaniających strojach” dla wszystkich użytkowników – także płacących – oraz geoblokadę takich funkcji w krajach, gdzie są one nielegalne. Jednocześnie generowanie i edycja obrazów na X mają być dostępne wyłącznie dla subskrybentów, co – jak tłumaczy firma – ma zwiększyć rozliczalność osób nadużywających narzędzia.
Elon Musk widzi we wszystkim cenzurę
Sam Elon Musk początkowo bagatelizował zarzuty, twierdząc, iż nie ma wiedzy o generowaniu nagich wizerunków nieletnich i sugerując, iż krytyka i działania regulacyjne to próba „ograniczenia wolności słowa” i służy jedynie jako „wymówka” by nałożyć cenzurę. Dopiero po uruchomieniu dochodzeń i realnym ryzyku sankcji prawnych firma zdecydowała się na ostrzejsze ograniczenia.
Dlatego trudno oprzeć się wrażeniu, iż te działania są spóźnione i połowiczne. Jakiekolwiek działania ze strony należących do Elona Muska podmiotów się dopiero wtedy, gdy w grę wchodzą konsekwencje ze strony władz Kalifornii i innych organów, a nie jako efekt wewnętrznej odpowiedzialności za projektowanie narzędzi AI. Co więcej, najważniejszy problem możliwości przerabiania wizerunku prawdziwych osób nie znika całkowicie – zostaje jedynie przeniesiony za paywall.
Wobec obecnej sytuacji, a także po ubiegłorocznych ekscesach „MechaHitlera” i serii wyzwisk w stronę polskich polityków dziwi mnie już tylko jedno: dlaczego Grok wciąż nie został zablokowany w Polsce?
Może zainteresować cię także:
- Elon Musk spojrzał na Polskę i potężnie się zmartwił. Bo nie chcecie mieć dzieci
- Robot Tesli to nieśmieszny żart. „Zdalnie sterowany bubel”
- Starlinki przekroczą istotną granicę. „Największa ludzka struktura na orbicie”
