Miliony użytkowników Reddita padły ofiarą tajnego eksperymentu AI przeprowadzonego przez Uniwersytet w Zurychu. Brak zgody ze striony użytkowników wywołał debatę, ale nie przyniósł konsekwencji prawnych.
Badacze z Uniwersytetu w Zurychu zrealizowali niejawny projekt badawczy z użyciem sztucznej inteligencji, angażując nieświadomych użytkowników platformy Reddit. W ramach eksperymentu stworzono algorytmiczne boty wykorzystujące zaawansowane modele językowe, które imitowały prawdziwych uczestników dyskusji na subforum Change My View. Niektóre z tych botów przyjmowały tożsamości specjalistów od traumy czy osób doświadczających przemocy, badając możliwości wpływania przez AI na przekonania użytkowników.
Co ciekawe, systemy AI analizowały historię wypowiedzi „userów”, aby personalizować swoje komunikaty. Zarówno administracja Reddita, jak i sami użytkownicy nie otrzymali informacji o prowadzonym eksperymencie. Dopiero po zakończeniu badań uniwersytet przyznał moderatorom, iż naruszył regulamin społeczności. Naukowcy potwierdzili złamanie zasad i wyrazili skruchę, argumentując jednocześnie, iż „waga zagadnienia” usprawiedliwiała ich metodologię.
Zespół moderatorski Reddita zareagował stanowczą krytyką projektu. Wskazano, iż inne organizacje, jak OpenAI, potrafiły prowadzić podobne badania bez stosowania manipulacji czy instrumentalnego traktowania użytkowników. Podejście szwajcarskich badaczy określono jako poważne pogwałcenie standardów etycznych i przejaw lekceważenia społeczności forum. Przedstawiciel uczelni w Zurychu stwierdził:
„Jesteśmy świadomi, iż nasz eksperyment naruszył wytyczne dotyczące treści generowanych przez AI, za co wyrażamy ubolewanie. Niemniej jednak, uważamy, iż ze względu na wagę zagadnienia, przeprowadzenie takiego badania było istotne, choćby jeżeli wymagało odstępstwa od obowiązujących reguł”.
Do tej pory nie podjęto kroków prawnych wobec naukowców ani instytucji. Reddit również nie wprowadził żadnych nowych zapisów w swoich regulacjach. Sprawa zainicjowała jednak debatę o potrzebie bardziej rygorystycznych przepisów dotyczących eksperymentów prowadzonych na żywych społecznościach internetowych oraz przejrzystości przy implementacji nowych technologii. Fakt, iż użytkownicy nieświadomie prowadzili rozmowy z botami, wywołał powszechne oburzenie i zapoczątkował szerszą dyskusję na temat etycznych aspektów wykorzystania AI.
