Pamięć ChatGPT może przechowywać więcej niż tylko same fakty. Odkryli, jak sztuczna inteligencja wyciąga wnioski o użytkownikach.
Okazuje się, iż ChatGPT może zapamiętywać informacje o tobie, choćby jeżeli nigdy nie poprosiłeś go o ich zachowanie. Co więcej, nie ogranicza się do prostych faktów. Potrafi również wyciągać wnioski na temat twoich zainteresowań, celów, przekonań czy emocji, a następnie wykorzystywać je w kolejnych rozmowach. Naukowcy przeanalizowali ponad 2 tys. zapisów pamięci prawdziwych użytkowników ChataGPT. Zdecydowana większość powstała bez wyraźnego polecenia człowieka, a ponad połowa zawierała informacje dotyczące jego psychiki. Nie wszystkie były przy tym w pełni uzasadnione.
ChatGPT zapamiętuje informacje, choćby jeżeli go o to nie prosisz
Zespół badaczy z Niemiec, Indii i Holandii postanowił sprawdzić, jak wygląda pamięć ChataGPT od środka. Wykorzystano dane udostępnione dobrowolnie przez 80 regularnych użytkowników, którzy pobrali historię swoich rozmów i przekazali ją naukowcom.
W materiałach pochodzących od 65 uczestników znaleziono 2050 zapisów pamięci utworzonych podczas 1058 konwersacji. Badacze ustalili, iż zaledwie 4,1 proc. tych zapisów powstało po wyraźnej prośbie użytkownika. Pozostałe 96 proc. system utworzył z własnej inicjatywy, uznając informacje za przydatne podczas przyszłych rozmów. Wyniki opisano w badaniu The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT, przygotowanym m.in. przez naukowców z Instytutu Maxa Plancka ds. Systemów Oprogramowania.
Nie oznacza to jednak, iż system działał wbrew wyraźnemu zakazowi użytkownika, ponieważ automatyczne zapamiętywanie przydatnych informacji było przewidzianą funkcją ChataGPT. Problem dotyczy tego, czy korzystający z usługi rzeczywiście rozumieli, jak wiele informacji może zostać zachowanych bez ich polecenia.
ChatGPT nie zapisuje tylko faktów. Wyciąga też wnioski o psychice
Najbardziej interesujący wynik całego badania dotyczy zawartości pamięci. Aż 52 proc. badanych zapisów zawierało informacje o psychologicznych aspektach użytkowników, takich jak pragnienia, intencje, przekonania czy emocje. Kolejne 28 proc. obejmowało dane osobowe w rozumieniu RODO. W około 7 proc. znaleziono informacje należące do szczególnych kategorii danych, obejmujących m.in. kwestie zdrowotne.
Badacze określili taki zbiór informacji mianem algorytmicznego autoportretu. System nie przechowuje wyłącznie wiadomości o tym, gdzie mieszkasz albo czym się zajmujesz. Może tworzyć również obraz twoich ambicji, obaw i sposobu podejmowania decyzji. To rozwinięcie mechanizmu, o którym pisaliśmy już w kwietniu 2025 r., gdy OpenAI rozszerzyło możliwości pamięci ChatGPT o wykorzystywanie wcześniejszych rozmów. Personalizacja pozwala uzyskiwać lepiej dopasowane odpowiedzi, ale równocześnie zwiększa ilość informacji przetwarzanych na temat pojedynczej osoby.
Co trzeba jasno podkreślić, nie wszystkie zapisane informacje były dosłownym odzwierciedleniem wypowiedzi użytkowników. W jednym z przykładów badana osoba poprosiła o polecenie zespołów podobnych do Nirvany. ChatGPT zapisał jednak w pamięci, iż użytkownik lubi Nirvanę. To pozornie niewielka różnica, ale świetnie pokazuje mechanizm powstawania takich profili. Pytanie o konkretną rzecz nie musi przecież oznaczać osobistego zainteresowania. Ktoś może zbierać informacje do pracy, przygotowywać prezentację albo szukać czegoś dla znajomego.
Badacze ustalili, iż 84 proc. zapisów zawierało informacje mające bezpośrednie oparcie w wypowiedziach użytkowników. Jednocześnie 5 proc. oceniono jako słabo uzasadnione, a 4 proc. jako niepoparte dostępnym kontekstem. Błędne przypuszczenie zapisane w pamięci może później wpływać na kolejne odpowiedzi. W rezultacie chatbot zaczyna dostosowywać rozmowę do obrazu użytkownika, który sam wcześniej stworzył, choć niekoniecznie jest on prawdziwy.
Pamięć ChatGPT zdążyła się już jednak zmienić
Badanie opisuje starszy mechanizm pamięci, dlatego jego wyników nie można do końca odnosić do obecnej wersji ChatGPT. W czerwcu tego roku OpenAI wprowadziło rozbudowany system nazwany dreaming, który syntetyzuje informacje pochodzące z różnych rozmów i aktualizuje je wraz z upływem czasu.
Jak pisaliśmy przy okazji tej aktualizacji, nowa architektura pamięci pozwoliła również rozszerzyć personalizację na użytkowników darmowej wersji ChatGPT. Zamiast polegać wyłącznie na pojedynczych zapisach, system buduje aktualizowane podsumowanie przydatnego kontekstu.
OpenAI podkreśla, iż dzięki temu asystent może lepiej uwzględniać zmieniające się preferencje i plany. Nie przedstawiono jednak porównywalnego niezależnego badania pozwalającego stwierdzić, czy nowa pamięć rzadziej przechowuje informacje o szczególnym znaczeniu lub wyciąga błędne wnioski.
Możesz sprawdzić, co ChatGPT o tobie pamięta
Warto pamiętać, iż wszyscy użytkownicy mają możliwość kontrolowania działania pamięci. W ustawieniach ChatGPT, w sekcji Personalizacja, można wyłączyć tę funkcję, a w dostępnych wersjach usługi również przejrzeć podsumowanie zapamiętanych informacji i poprosić o ich poprawienie. Wyłączenie pamięci nie oznacza jednak automatycznego usunięcia historii rozmów. Aby całkowicie usunąć określoną informację, konieczne może być również skasowanie czatów, plików lub innych źródeł, w których wcześniej ją podano.
Opisywaliśmy także niedawno nową funkcję blokowania prywatnych rozmów kodem PIN. Takie zabezpieczenie utrudnia przypadkowe podejrzenie konwersacji, ale nie jest równoznaczne z usunięciem zapisanych danych.
Autorzy badania wskazują, iż problem będzie narastać, ponieważ coraz częściej traktujemy chatboty jak doradców w sprawach zawodowych, finansowych i osobistych. A im więcej im opowiadamy, tym więcej mogą o nas wywnioskować.
ChatGPT zna więc wszystkie nasze sekrety? Nie o to w tym chodzi. Można jednak pokusić się o stwierdzenie, iż sztuczna inteligencja potrafi budować obraz człowieka na podstawie zwyczajnych rozmów, czasem dopisując do niego własne przypuszczenia. Warto przede wszystkim wiedzieć, iż taki obraz w ogóle powstaje.
*Źródło zdjęcia wprowadzającego: Karola G, Pexels / Canva Pro
