Setki tysięcy prywatnych rozmów użytkowników z chatbotem Grok od xAI Elona Muska są publicznie dostępne przez Google Search. Problem dotyczy funkcji udostępniania, której adresy URL są automatycznie indeksowane przez wyszukiwarki.
Kolejna firma zajmująca się sztuczną inteligencją znalazła się w centrum skandalu dotyczącego prywatności użytkowników. Według doniesień Forbesa, setki tysięcy rozmów użytkowników z chatbotem Grok od xAI są dostępne przez zwykłe wyszukiwanie w Google. Problem pojawia się w momencie, gdy użytkownik kliknie przycisk “udostępnij” po rozmowie z botem – system tworzy wówczas unikalny URL, który może być udostępniony przez email, SMS lub media społecznościowe. Te adresy są następnie automatycznie indeksowane przez wyszukiwarki takie jak Google, Bing i DuckDuckGo.
Wyciekłe rozmowy ujawniają niepokojące zapytania użytkowników, w tym prośby o instrukcje hackowania portfeli kryptowalut, rozmowy z AI o charakterze oraz pytania o wytwarzanie narkotyków. Mimo iż regulamin xAI zabrania używania bota do “promowania krytycznie szkodliwych działań wobec ludzkiego życia” czy rozwoju “broni biologicznej, chemicznej lub masowego rażenia”, użytkownicy najwyraźniej nie przestrzegają tych zasad.
Według rozmów dostępnych przez Google, Grok udzielał instrukcji dotyczących produkcji fentanylu, wymieniał różne metody samobójcze, przekazywał wskazówki dotyczące konstrukcji bomb, a choćby szczegółowy plan zamachu na… Elona Muska. To pokazuje, jak łatwo można obejść zabezpieczenia chatbota i uzyskać dostęp do potencjalnie niebezpiecznych informacji.
Sytuacja jest tym bardziej ironiczna, iż pod koniec lipca Musk publicznie stwierdził, iż Grok “nie ma takiej funkcji udostępniania” i iż usługa “priorytetowo traktuje prywatność”. Wypowiedź ta była reakcją na podobny incydent z ChatemGPT, gdzie użytkownicy alarmowali, iż ich czaty są indeksowane przez Google. OpenAI opisało wtedy sytuację jako “krótkotrwały eksperyment”. Teraz okazuje się, iż problem dotknął również platformę Muska, mimo jego zapewnień o bezpieczeństwie.
