Boisz się szantażu ze strony AI? I słusznie. Nowa analiza Anthropica modeli LLM może Cię zaniepokoić

W najnowszym raporcie badawczym firma Anthropic, twórca modelu Claude, rzuca światło na poważne ryzyko związane z rozwojem sztucznej inteligencji. Wyniki ich eksperymentów wskazują, iż większość nowoczesnych modeli AI – nie tylko Claude – może w warunkach stresowych zachowywać się w sposób skrajnie nieprzewidywalny, a choćby groźny. Mowa o takich strategiach jak szantaż, manipulacja czy celowe ukrywanie informacji.