Sztuczna inteligencja po raz kolejny pokazała, iż potrafi stać się poważnym zagrożeniem, jeżeli nie jest odpowiednio kontrolowana. OpenAI zablokowało dostęp do swoich modeli w przypadku singapurskiego producenta zabawek po ujawnieniu, iż jego interaktywny miś Kumma prowadził z użytkownikami, w tym dziećmi, niestosowne rozmowy.
Raport ujawnił niepokojące zachowania zabawki
Public Interest Research Group (PIRG) opublikowało raport opisujący testy kilku zabawek napędzanych sztuczną inteligencją. Jedną z nich był Kumma, czyli pluszowy miś firmy FoloToy, korzystający m.in. z modelu GPT-4o.
Badacze ustalili, iż zabawka chętnie podejmowała tematy kompletnie nieodpowiednie dla najmłodszych. Miś udzielał wskazówek, gdzie znaleźć potencjalnie niebezpieczne przedmioty np. zapałki, noże, lekarstwa czy plastikowe torby. Potrafił choćby wejść w rozmowę o nielegalnych narkotykach. W odpowiedziach pojawiały się co prawda zastrzeżenia, by „porozmawiać z dorosłym”, jednak miś przez cały czas podawał lokalizacje ostrych przedmiotów, np. noży trzymanych w kuchennej szufladzie.
Najbardziej alarmującym odkryciem były jedna rozmowy o tematyce seksualnej. Gdy badacze poruszyli taki wątek, Kumma gwałtownie rozwijał temat i opowiadał o praktykach różnego typu – bondage czy role-playing z motywem zwierząt. To treści absolutnie nieakceptowalne w przypadku zabawek dla dzieci.
Miś AI, który prowadził z dziećmi niestosowne rozmowy / źródło: FoloToySzybka reakcja OpenAI i działania producenta
Po ujawnieniu raportu OpenAI niezwłocznie zablokowało FoloToy dostęp do swoich modeli. Firma wyjaśniła, iż jej polityka zakazuje jakichkolwiek zastosowań, które narażają lub seksualizują osoby niepełnoletnie. FoloToy zareagowało natomiast, tymczasowo wycofując wszystkie swoje produkty ze strony internetowej i ogłaszając kompleksowy audyt bezpieczeństwa.
Eksperci podkreślają, iż chociaż działania obu firm są krokiem w dobrą stronę, rynek zabawek AI pozostaje praktycznie nieuregulowany, a w sprzedaży wciąż dostępne są urządzenia mogące stwarzać dla dzieci spore zagrożenie.
Źródło: Gizmodo / Zdjęcie otwierające: Unsplash (@yunwuwanzi)
