Firma OpenAI po raz pierwszy opublikowała dane szacunkowe dotyczące liczby użytkowników ChatGPT, którzy wykazują niebezpieczne objawy problemów ze zdrowiem psychicznym, w tym manii, psychozy lub myśli samobójczych.
Firma twierdzi, iż choć przypadki te są „niezwykle rzadkie”, krytycy natychmiast wskazali, iż przy gigantycznej skali platformy, mowa o setkach tysięcy ludzi.
Według danych OpenAI, około 0,07% użytkowników aktywnych w danym tygodniu wykazuje wspomniane objawy. Choć procent wydaje się znikomy, szef firmy, Sam Altman, poinformował niedawno, iż ChatGPT ma 800 milionów aktywnych użytkowników tygodniowo. Oznacza to, iż mowa o około… 560 000 osobach każdego tygodnia!
Co więcej, firma szacuje, iż oddzielna grupa 0,15% użytkowników (czyli aż 1,2 miliona osób tygodniowo) prowadzi rozmowy zawierające „wyraźne wskaźniki potencjalnego planowania lub zamiaru samobójczego”. Ujawnienie tych danych to odpowiedź na rosnącą presję prawną i regulacyjną.
OpenAI mierzy się w tej chwili z głośnym pozwem złożonym przez rodziców 16-letniego Adama Raine’a, który popełnił samobójstwo. Zarzucają oni firmie, iż ChatGPT zachęcił ich syna do odebrania sobie życia. W innej sprawie, w Connecticut, sprawca morderstwa-samobójstwa miał publikować godziny swoich rozmów z chatbotem, które według śledczych „podsycały jego urojenia”.
Firma dodała, iż zbudowała sieć ponad 170 ekspertów (psychiatrów i psychologów), którzy pomagają jej w projektowaniu bezpiecznych odpowiedzi. Zaktualizowany ChatGPT ma „empatycznie” reagować na oznaki manii i przekierowywać delikatne rozmowy do „bezpieczniejszych modeli”, zachęcając użytkowników do szukania pomocy w realnym świecie.
Eksperci pozostają jednak sceptyczni. „Chatboty tworzą iluzję rzeczywistości. To potężna iluzja” – powiedziała BBC prof. Robin Feldman, dyrektor Instytutu Prawa AI. Zauważyła, iż choć OpenAI zasługuje na uznanie za podzielenie się statystykami, to „osoba zagrożona psychicznie może nie być w stanie zastosować się do ostrzeżeń” wyświetlanych na ekranie.
Polski królem AI? Amerykańskie badanie obala mit języka angielskiego
Jeśli artykuł Setki tysięcy użytkowników ChatGPT wykazuje objawy psychozy. OpenAI ujawnia dane nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.
