Eksperyment obejmował chatboty AI podszywające się pod zwykłych użytkowników i angażujące się w dyskusje na kontrowersyjne tematy. Boty, których konta zostały od tego czasu zablokowane, opublikowały ponad 1700 komentarzy w całym subreddicie.
Przyjęły fałszywe tożsamości, takie jak ofiara gwałtu, która bagatelizuje traumę po napaści, czarnoskóry mężczyzna sprzeciwiający się ruchowi Black Lives Matter i doradca ds. traumy domowej, który twierdził, iż najbardziej bezbronne kobiety to te, które „chronią nadopiekuńczy rodzice”. Inny bot został użyty do skanowania profili użytkowników i dostarczania spersonalizowanych argumentów w odpowiedzi. Naukowcy ujawnili eksperyment moderatorom subreddita kilka miesięcy po jego przeprowadzeniu, nazywając go „etapem ujawniania w badaniu”. W oświadczeniu opublikowanym w zeszłym tygodniu zespół moderatorów Reddita stwierdził, iż platforma zabrania korzystania z nieujawnionych treści generowanych przez sztuczną inteligencję lub botów.
Główny radca prawny Reddita, Ben Lee, powiedział, iż ani firma, ani moderatorzy r/ChangeMyView nie mieli wcześniejszej wiedzy o tym, co nazwał „niewłaściwym i wysoce nieetycznym eksperymentem”.
Dodał, iż Reddit przygotowuje formalne żądania prawne do wysłania do Uniwersytetu w Zurychu i zaangażowanych w niego badaczy. Naukowcy powiedzieli, iż badanie opierało się na zasadach „etycznych” badań i przejrzystości.
Komisja etyki uniwersyteckiej argumentowała, iż badania wyrządziły niewielką szkodę.
Mimo to użytkownicy subreddita zareagowali szokiem i gniewem na nieświadome eksperymentowanie na nich. Czasopismo Science zacytowało wysłane e-mailem oświadczenie uniwersytetu, w którym napisano, iż badacze postanowili nie publikować wyników.
Uniwersytet poinformował, iż zbada incydent. Wykorzystanie botów AI – fałszywych kont zaprojektowanych tak, aby naśladować prawdziwych użytkowników – stale rośnie na platformach mediów społecznościowych w ostatnich latach.
Eksperci twierdzą, iż są one coraz częściej wykorzystywane do kształtowania opinii publicznej, szczególnie w kontekście wyborów. Rządy zachodnie, przede wszystkim USA i Wielkiej Brytanii, od dawna oskarżają Rosję o prowadzenie na szeroką skalę „farm botów” w celu ingerowania w procesy wyborcze – oskarżenia, którym Moskwa wielokrotnie zaprzeczała.
Jednak niektórzy zachodni aktorzy sami znaleźli się pod lupą za wykorzystywanie botów w kampaniach dezinformacyjnych, podczas gdy publicznie ostrzegają przed zagraniczną ingerencją.
Przetlumaczono przez translator Google
zrodlo:https://www.rt.com/news/616816-switzerland-university-ai-chatbots-reddit/
