Ukryte kody w AI mogą zmusić roboty do ataku. Luki w zabezpieczeniach

Zdjęcie: Ramię robota z nożem nad sztuczną dłonią i zabawką w kształcie jabłka w ramach testów bezpieczeństwa AI.


Duże modele językowe coraz częściej sterują robotami, ale naukowcy ostrzegają przed poważnym zagrożeniem. Okazuje się, iż złośliwe słowa najważniejsze mogą zmusić maszynę do wykonania niebezpiecznego zadania, ignorując wcześniejsze polecenia.