Nature powołuje się m.in. na badania prof. Strzeleckiego, który w grudniu 2024 r. na łamach Learned Publishing opisał ukryte użycie AI w publikacjach z Google Scholar – także w renomowanych czasopismach, co wskazuje na systemowy charakter zjawiska.
Coraz bardziej też widać, iż trzeba robić wewnętrzne szkolenia, warsztaty; uczyć, iż to jest narzędzie – mówi prof. Strzelecki.
Ślad użycia AI
Prof. Strzelecki analizował anglojęzyczne publikacje naukowe pod kątem występowania charakterystycznych zwrotów generowanych przez ChatGPT – takich jak Mam nadzieję, iż to pomoże! czy Jako model językowy AI – w artykułach, które nie deklarowały użycia sztucznej inteligencji. W wielu przypadkach autorzy bezrefleksyjnie kopiowali odpowiedzi wraz z elementami interfejsu, jak np. przycisk regenerate response.
Te niezamierzone ślady obecności AI nie zostały wychwycone ani przez współautorów, ani recenzentów czy redaktorów. W samych tylko recenzowanych czasopismach z bazy Scopus, z najwyższą punktacją CiteScore, badacz zidentyfikował takie frazy w 89 artykułach.
Cicha korekta
Temat wykorzystywania AI w publikacjach naukowych ponownie zyskał rozgłos dzięki doniesieniom Nature. Redakcja zwróciła uwagę na praktykę tzw. cichej korekty, czyli usuwania przez wydawców zwrotów wygenerowanych przez chatboty z już opublikowanych artykułów, bez informowania o tym czytelników w formie oficjalnych sprostowań. Jak relacjonuje badacz, sam zidentyfikował takie przypadki, archiwizując pierwotne wersje tekstów. Dzięki temu mógł później potwierdzić, iż wydawnictwa zmieniały treść bez żadnej informacji dla czytelników o tym, co zostało poprawione.
Już tego nie zatrzymamy
Jeśli już powstają prace przy użyciu AI i zawierają wskazujące na to fragmenty – to one są później cytowane przez kolejnych naukowców, którzy to, co zostało napisane, uznają za rzetelne informacje, a niekoniecznie powinni. Sztuczna inteligencja miewa halucynacje i może coś sama od siebie coś dołożyć, wymyślić – przestrzega naukowiec.
Prof. Strzelecki jednocześnie zaznacza, iż niemożliwe jest pełne kontrolowanie sposobu, w jaki sztuczna inteligencja jest wykorzystywana do pisania prac naukowych.
Praktycznie już teraz są to narzędzia powszechnego użytku, które wchodzą do użycia na ogromną skalę. Od niedawna, wyszukując informacji w Google, zalogowani użytkownicy na dzień dobry dostają podsumowanie zrobione przez AI. Nie dostajemy autentycznych wyników wyszukiwania, tylko dane przetworzone przez AI – tłumaczy.
