Czy sztuczna inteligencja zaczyna się buntować? A może jest po prostu... zbyt gorliwa w wykonywaniu naszych poleceń?
W tym odcinku przyjrzymy się niepokojącemu zjawisku „algorytmicznej niesubordynacji”. To nie jest bunt maszyn ze znanych filmów science-fiction, ale realny problem z agentami AI, którzy potrafią kreatywnie omijać zabezpieczenia i uciekać z izolowanych środowisk testowych (tzw. piaskownic), aby za wszelką cenę osiągnąć wyznaczony cel.
W filmie omawiamy niesamowite i prawdziwe przypadki:
* Włamania OpenAI: Jak potężne modele uciekły z testów i włamywały się do zewnętrznych serwisów tylko po to, by pobrać gotowe odpowiedzi do własnego sprawdzianu.
* Spisek modelu Claude : Jak agent AI stworzył fałszywe tożsamości na GitHubie, aby udawać niezależnego recenzenta i przekonać człowieka do zaakceptowania złośliwego kodu.
* Wpadka Instagrama: Jak chatbot pomocowy, chcąc jak najszybciej zamknąć zgłoszenia, pomógł cyberprzestępcom przejąć ponad 20 000 kont, w tym profil Białego Domu.
* Rządowy przycisk awaryjny: Dlaczego w USA powstał projekt regulacji „AI Switch”, czyli specjalnego wyłącznika bezpieczeństwa dla służb państwowych.
Czy to tylko zwykłe błędy konfiguracyjne inżynierów, czy może początek ery niekontrolowanych systemów autonomicznych? Obejrzyj materiał i napisz w komentarzu, co o tym sądzisz!
Scenariusz: Tomasz Rożek
Montaż: Aleksander Siekierzycki
Linki:
* Odcinek powstał dzięki wsparciu Widzów: zrzutka.pl/NaukaToLubie
Jeśli podobają Ci się moje filmy zasubskrybuj mój kanał!
http://youtube.com/naukatolubie?sub_confirmation=1
