W świecie badań naukowych trwa właśnie cicha wojna, o której nikt z nas nie miał pojęcia. Z jednej strony rozwój narzędzi opartych na AI, z drugiej rosnący problem wiarygodności tekstów naukowych. Preprinty, które miały być symbolem otwartości, stają się dziś polem walki z dezinformacją generowaną przez algorytmy.
Serwisy preprintowe, takie jak PsyArXiv, arXiv czy bioRxiv, mierzą się z narastającą falą wątpliwej jakości zgłoszeń. Są to bardzo często teksty pozbawionych afiliacji autorów, niespójne merytorycznie, a nierzadko zawierające całkowicie zmyślone odniesienia czy informacje. Podejrzenia najczęściej padają na publikacje tworzone przez tzw. fabryki artykułów naukowych lub generowane w całości bądź częściowo przy pomocy dużych modeli językowych, takich jak ChatGPT.
Jak rozpoznać fałszywą naukę? Oni już próbują walczyć z tym publikacyjnym chaosem
Jak czytamy na łamach Nature, operatorzy platform preprintowych twierdzą, iż choć odsetek wątpliwych tekstów wciąż nie jest dominujący, to tempo pojawiania się ich drastycznie rośnie. Serwisy preprintowe każdego dnia odrzucają choćby po kilkanaście publikacji, które wyglądają na wygenerowane przez chatboty.
Podejmowane są coraz bardziej zdecydowane kroki. Niektóre platformy całkowicie usuwają podejrzane prace, inne oznaczają je jako wycofane bez kasowania ich treści. Zatrudniani są dodatkowi moderatorzy oraz wprowadzane są algorytmy wykrywające typowe cechy tekstów tworzonych przez AI, m.in. nienaturalną strukturę, niską gęstość informacji, czy brak precyzyjnych źródeł.
Serwis arXiv rozważa choćby zaostrzenie kryteriów publikacji prac przeglądowych – właśnie ze względu na wysyp ultraniskiej jakości treści, które najczęściej są wytwarzane maszynowo. Z kolei Center for Open Science planuje wprowadzenie dodatkowych etapów zgłaszania, które miałyby zniechęcić twórców niskojakościowych publikacji.
Gdzie kończy się pomoc, a zaczyna oszustwo?
Wielu badaczy podkreśla, iż AI sama w sobie nie jest problemem, o ile jej rola jest jasno deklarowana, a treść podlega ocenie człowieka. Kiedy jednak sztuczna inteligencja służy do masowego generowania pustych, nic niewnoszących prac lub do manipulacji systemem publikacyjnym, zagraża to całemu środowisku naukowemu.
Preprinty miały być remedium na powolność recenzji naukowej, ale dziś muszą stawić czoła nowemu przeciwnikowi – bezosobowej, pozornie neutralnej technologii, która może służyć zarówno postępowi, jak i manipulacji. Czy nauka wygra tę wojnę? Czas pokaże.
*Źródło zdjęcia wprowadzającego: Gorodenkoff / Shutterstock
