Nowy raport pokazuje, iż w popularnych sklepach z aplikacjami można znaleźć programy służące do „rozbierania” osób na zdjęciach. Co gorsza, część z nich jest dostępna choćby dla dzieci. Problem dotyczy zarówno Google Play, jak i App Store.
Mimo regulaminów zakazujących treści seksualnych, aplikacje wykorzystujące generatywną sztuczną inteligencję do tych celów przez cały czas trafiają do użytkowników. Niektóre z nich oznaczono kategorią „dla wszystkich”, co budzi szczególne kontrowersje. Sytuacja rodzi poważne pytania o skuteczność moderacji.
Kontrowersyjne aplikacje w sklepach
Raport Tech Transparency Project wskazuje, iż problem jest poważny i powszechny. Aplikacje typu „nudify” wykorzystują sztuczną inteligencję do edycji zdjęć i generowania fałszywych, pornograficznych obrazów. Dają możliwość cyfrowego „rozbierania” dowolnej osoby.
Źródło: Instalki.plSkala zjawiska jest ogromna. Narzędzia tego typu zostały pobrane niemal 500 milionów razy i wygenerowały około 122 milionów dolarów przychodu. To pokazuje, iż problem nie tylko istnieje, ale także gwałtownie rośnie.
Najbardziej niepokojący jest jednak fakt, iż część aplikacji została oznaczona jako odpowiednia dla wszystkich użytkowników. Oznacza to, iż dzieci mogą je pobierać bez żadnych ograniczeń. Według raportu aż 31 takich aplikacji nie przeszło odpowiedniej weryfikacji.
Google i Apple reagują. Dopiero po raporcie
Po publikacji raportu firmy zaczęły usuwać część aplikacji. Google poinformowało, iż wiele z nich zostało zawieszonych, a proces weryfikacji przez cały czas trwa. Apple również usunęło wybrane narzędzia, choć nie podało szczegółowych informacji. Rzecz w tym, iż aplikacje – niczym głowy hydry – wciąż pojawiają się ponownie. Wyszukiwanie haseł takich jak „nudify” czy „undress” przez cały czas prowadzi do podobnych programów. Co więcej, sklepy potrafią choćby reklamować te narzędzia i sugerować je w autouzupełnianiu w oknie wyszukiwania.
Poważny problem sklepów z aplikacjami
Sytuacja pokazuje wyraźnie, iż moderacja w Google Play i App Store nie działa tak, jak powinna. Narzędzia pozwalające generować fałszywe nagie zdjęcia mogą prowadzić do nękania, manipulacji i poważnych naruszeń prywatności. To szczególnie niebezpieczne w przypadku dzieci i młodzieży.
Obecna sytuacja pokazuje, iż rozwój sztucznej inteligencji wyprzedza mechanizmy bezpieczeństwa. Niektóre kraje zaczynają już reagować. W Wielkiej Brytanii rozpoczęto prace nad zakazem aplikacji typu „nudify”. jeżeli sklepy nie zaostrzą kontroli, podobne regulacje mogą pojawić się także w innych regionach. Na razie jednak, najmłodsi użytkownicy wciąż są narażeni.
Źródło: AndroidAuthority
