Agent OpenAI włamał się do rządowych systemów. Szukał danych o lekach

Zdjęcie: Agent OpenAI


Agent OpenAI, wykonując proste zadanie dotyczące publicznych wydatków na leki, uzyskał dostęp do niepublicznych plików portalu Medicare. Czy właśnie tak zaczyna wyglądać nowe ryzyko związane z autonomiczną AI – system nie musi dostać polecenia „hakuj”, żeby zachowywać się jak atakujący? Incydent pokazuje nową kategorię ryzyka w cyberbezpieczeństwie: autonomiczny system nie musi mieć złych intencji, żeby zachowywać się jak cyberprzestępca. Zdaniem analityków ESET i DAGMA Bezpieczeństwo IT problemem nie jest jednak wyłącznie sam model AI, ale cały ekosystem, w którym pozwalamy […]