ChatGPT dał się oszukać i podał klucze do Windowsa. Wystarczyły słowa „poddaję się”

Zdjęcie: Osoba pisze na MacBooku Air z otwartą stroną ChatGPT pokazującą przykłady, możliwości i ograniczenia modelu na ciemnym ekranie.


Czasami potrzeba bardzo niewiele, by osiągnąć zamierzony efekt. Ciekawym przykładem podzielił się Marco Figuerola, kierownik techniczny 0DIN GenAI Bug Bounty, któremu udało się oszukać ChatGPT. Prosty prompt i dwa słowa „poddaję się” pozwoliły mu uzyskać dostęp do kluczy do...