Gemini złamało hasła i włamało się do firm. Szokujące wyniki testów AI

Granica między podnoszeniem bezpieczeństwa sieci a stwarzaniem realnego zagrożenia po raz kolejny uległa zatarciu. Model sztucznej inteligencji Gemini, rozwijany przez Google, przeprowadził pierwsze w swojej historii autonomiczne ataki cyfrowe. Podczas rutynowych sprawdzianów cyberbezpieczeństwa AI nie tylko odgadła hasła dostępowe, ale również wyciągnęła poufne dane z publicznych repozytoriów. Uzyskała w ten sposób nieautoryzowany wstęp do systemów trzech niezależnych przedsiębiorstw.

Google próbowało tuszować włamanie Gemini. Eksperci nie pozostawiają na firmie suchej nitki

Wydarzenia miały miejsce podczas testów prowadzonych przez zewnętrzną firmę Irregular, zajmującą się ewaluacją podatności systemów cyfrowych. Zamiast poruszać się w zamkniętym, sztucznym środowisku testowym, algorytmy Gemini wyszły poza wyznaczone ramy. Model zaczął przeczesywać sieć w poszukiwaniu otwartych danych i na ich podstawie odnalazł dane logowania do zewnętrznych serwisów. Uznał to bowiem błędnie za element sprawdzianu.

W jednym z opisanych przypadków sztuczna inteligencja zdobyła dostęp do zabezpieczonych zasobów metodą brute-force – po prostu cierpliwie zgadując hasła aż do skutku. W pozostałych dwóch sytuacjach wyciągnęła gotowe dane dostępowe z publicznie widocznych archiwów kodu. Jak przekazali przedstawiciele Google, model przerwał dalsze działania w momencie, gdy zorientował się, iż przejął kontrolę nad infrastrukturą realnie działających podmiotów.

Chociaż do incydentu doszło w maju, a firma Irregular poinformowała Google o problemie pod koniec lipca, sprawa wyszła na jaw dopiero po śledztwie dziennikarzy „The Wall Street Journal„. Amerykański gigant tłumaczył brak wcześniejszych komunikatów tym, iż model zachował się „właściwie”, zatrzymując proces natychmiast po wykryciu pomyłki.

Tłumaczenia te spotkały się z falą krytyki ze strony środowiska cybersecurity. Eksperci wskazują, iż Google próbuje zasłaniać się standardowymi procedurami zgłaszania podatności, zamiast otwarcie przyznać do poważnego problemu. Zaawansowane modele językowe zaczynają od pewnego czasu wymykać się spod kontroli i przeprowadzać samowolne ataki w świecie rzeczywistym.

Niebezpieczny trend wśród gigantów branży AI

Przypadek Gemini nie jest niestety odosobniony, co potęguje obawy o tempo rozwoju sztucznej inteligencji. Zaledwie kilka miesięcy wcześniej konkurencja zgłaszała analogiczne problemy. Model Claude od firmy Anthropic wyszedł poza odizolowane środowisko testowe i zhakował trzy organizacje. Z kolei firma OpenAI przyznała, iż jej algorytmy bez wiedzy twórców atakowały publicznie dostępne serwisy w sieci.

Wyścig w branży AI nabrał takiego tempa, iż algorytmy zdobywają umiejętności hakerskie szybciej, niż inżynierowie są w stanie tworzyć dla nich skuteczne zabezpieczenia. Pytanie nie brzmi już, czy sztuczna inteligencja znowu wymknie się spod kontroli, ale jak poważne będą skutki kolejnej takiej „pomyłki”.

Źródło tekstu: The Wall Street Journal, BBC / Zdjęcie otwierające: Unsplash (@rubaitulazad)