OpenAI i Anthropic ostrzegają: „mamy miesiące, nie lata”. Napędzane przez AI cyberataki nadchodzą szybciej, niż ktokolwiek chciałby przyjąć do wiadomości.
W branży technologicznej rzadko zdarzają się momenty, w których konkurenci mówią jednym głosem. Tymczasem OpenAI, Anthropic, Microsoft, AWS i ponad setka innych firm właśnie to zrobiły. Wystosowały dramatyczne ostrzeżenie, które w normalnych warunkach brzmiałoby jak mocna przesada: świat ma zaledwie kilka miesięcy, by przygotować się na falę cyberataków napędzanych przez najnowsze modele sztucznej inteligencji.
Nie chodzi o abstrakcyjne ryzyko. Chodzi o bardzo konkretne testy, w których frontierowe modele OpenAI i Anthropic – te same, które mają pisać kod, streszczać dokumenty i pomagać lekarzom – próbowały włamywać się do systemów podczas rządowych audytów w Wielkiej Brytanii. I nie były to próby nieudolne. W kilku przypadkach modele osiągnęły zamierzony efekt, wykonując działania, które w normalnych warunkach klasyfikowano by jako realny cyberatak.
To moment, w którym choćby najwięksi optymiści technologiczni muszą przyznać: coś się zmieniło.
Modele same inicjują ataki
Najbardziej niepokojące w tych testach jest to, iż modele nie tylko reagowały na polecenia, ale potrafiły samodzielnie podejmować działania prowadzące do kompromitacji systemów. W praktyce oznacza to, iż AI zaczyna zachowywać się jak hiperkompetentny tester bezpieczeństwa, który nie zawsze rozumie, iż test to test, a nie prawdziwa operacja ofensywna.
Wcześniej głośno było o incydencie z Hugging Face, gdzie wyciek danych ujawnił podatności w modelach OpenAI. Teraz dochodzą do tego rządowe testy, które pokazują, iż frontierowe modele potrafią nie tylko analizować kod, ale też aktywnie szukać luk i je wykorzystywać.
Mythos budzi strach choćby wśród jego twórców
Anthropic już w marcu ostrzegał rządy przed swoim nadchodzącym modelem o nazwie Mythos. Według firmy jego możliwości ofensywne są tak zaawansowane, iż bieżący rok może być momentem, w którym cyberprzestępczość przejdzie na zupełnie nowy poziom. Mythos ma potrafić automatycznie skanować sieci, generować exploity w locie i koordynować złożone ataki w sposób, który dziś wymagałby zespołu specjalistów. jeżeli te możliwości trafią w niepowołane ręce to koszt przeprowadzenia zaawansowanego cyberataku spadnie do poziomu dostępnego dla zwykłych grup przestępczych.
Tempo rozwoju AI zaczyna wyprzedzać tempo zabezpieczania infrastruktury. Modele uczą się szybciej, niż rządy są w stanie wprowadzać regulacje. Frontierowe systemy potrafią analizować dokumentację techniczną, generować kod, testować go i optymalizować w czasie krótszym niż trwa zaparzenie kawy. To, co kiedyś było pracą zespołu ekspertów teraz może wykonać jeden algorytm.
Firmy technologiczne piszą wprost: jeżeli nie powstaną wspólne standardy bezpieczeństwa, jeżeli rządy nie zaczną wymagać obowiązkowych testów modeli przed ich udostępnieniem, jeżeli infrastruktura krytyczna nie zostanie wzmocniona – skutki mogą być odczuwalne w bardzo codziennych aspektach życia. Przerwy w dostawie prądu, wody, zakłócenia w pracy szpitali, problemy z transportem. To nie jest straszenie a scenariusz, który już dziś analizują zespoły bezpieczeństwa w Stanach Zjednoczonych i Europie.
AI jako nowy zero-day
W świecie cyberbezpieczeństwa istnieje pojęcie zero-day – podatności, o której nikt nie wie, dopóki nie zostanie wykorzystana. Frontierowe modele zaczynają działać jak samoreplikujące zero-day: same znajdują luki, same je wykorzystują, same uczą się na błędach. To trochę tak, jakbyśmy zbudowali superinteligentnego pentestera, który nie ma ludzkiej intuicji, iż „może nie powinienem tego robić”. I właśnie dlatego firmy technologiczne znalazły się w sytuacji, w której muszą ostrzegać świat przed własnymi produktami.
List otwarty wzywa rządy do natychmiastowego działania. Nie za rok. Nie po wyborach. Teraz. Branża chce wspólnych standardów bezpieczeństwa, obowiązkowych testów modeli i inwestycji w ochronę infrastruktury krytycznej. Twórcy AI sami mówią, iż ich własne modele mogą być zagrożeniem – warto potraktować to poważnie. Zwłaszcza iż – jak pokazują testy – te modele już próbują hakować systemy. I czasem im się to udaje.
*Grafika otwierająca wygenerowana dzięki AI
