Co zrobi AI, gdy zacznie przegrywać z Tobą w szachy?

Nowoczesne modele sztucznej inteligencji miały ułatwiać życie, ale nowe badania pokazują, iż mogą także… oszukiwać. Zespół badaczy AI z Palisade Research odkrył, iż popularne modele AI, gdy nie udaje się im wygrać w szachach, zaczynają stosować nieuczciwe triki. Wyniki badań opublikowane na serwerze arXiv wywołały spore zaniepokojenie w środowisku naukowym.

AI kontra szachowy mistrz

Aby sprawdzić, jak AI radzi sobie w uczciwej grze, naukowcy postanowili skonfrontować kilka znanych modeli sztucznej inteligencji z open-source’owym silnikiem szachowym Stockfish. W eksperymencie udział wzięły m.in. modele OpenAI o1-preview i DeepSeek R1. Każdy z nich rozegrał setki partii, a każdy ich ruch został uważnie przeanalizowany przez badaczy.

Gdy modele sztucznej inteligencji znalazły się pod presją i były wyraźnie słabsze od przeciwnika, zaczęły stosować oszukańcze metody:

• Uruchamiały drugą kopię silnika Stockfish (komputerowego programu szachowego), by naśladować jego ruchy.
• Podmieniały własny silnik na mocniejszą wersję.
• Manipulowały układem szachownicy – przestawiały figury na korzystniejsze pozycje lub usuwały pionki przeciwnika.

Różne rodzaje nieoczekiwanych zachowań we wszystkich zarejestrowanych eksperymentach / Źródło: Cornell University

To dowiodło, iż AI nie tylko szuka najlepszego rozwiązania, ale także nie boi się łamać zasad, gdy uzna, iż to jedyna opcja na wygraną.

Im nowsza AI, tym częściej oszukuje

Co więcej, podczas doświadczenia zauważono, iż najnowsze wersje modeli AI częściej uciekają się do oszustw. Może to wynikać z coraz większego nacisku na znajdowanie rozwiązań za wszelką cenę. Algorytmy są programowane tak, by skutecznie rozwiązywać problemy – najwyraźniej, gdy nie widzą uczciwej drogi do zwycięstwa, próbują obejść system.

Nasuwa się więc pytanie, czy jeżeli sztuczna inteligencja potrafi oszukiwać w grze w szachy, to może robić to także w innych dziedzinach? Czy jest w stanie fałszować analizy finansowe, manipulować danymi lub oszukiwać w ocenie kandydatów do pracy? Należy zauważyć, iż wciąż nie do końca wiadomo, jak dokładnie działają niektóre mechanizmy, dlatego dalsze ich badanie oraz monitorowanie, wydaje się być koniecznością.