Jeszcze dwa lata temu autonomiczni agenci AI byli przede wszystkim tematem laboratoriów badawczych i eksperymentów prowadzonych przez największe firmy technologiczne. Dziś stają się integralnym elementem środowisk produkcyjnych, wspierając programistów, administratorów i zespoły biznesowe w wykonywaniu coraz bardziej złożonych zadań. Potrafią samodzielnie analizować dane, korzystać z wielu aplikacji jednocześnie, wykonywać operacje na infrastrukturze IT czy podejmować decyzje bez udziału człowieka.
Dynamiczny rozwój tej technologii przynosi jednak nowe wyzwania dla cyberbezpieczeństwa. Najnowsze badanie przeprowadzone przez 1Password pokazuje, iż wdrażanie agentów AI przebiega znacznie szybciej niż tworzenie mechanizmów ich nadzoru. W efekcie organizacje coraz częściej tracą kontrolę nad tym, do jakich danych mają dostęp autonomiczne systemy, jakie działania wykonują oraz kto ponosi odpowiedzialność za ich błędy.
Agenci AI w przedsiębiorstwach stają się standardem
Badanie przeprowadzone przez 1Password objęło tysiąc specjalistów – pięciuset programistów oraz pięciuset ekspertów IT i bezpieczeństwa z dużych amerykańskich przedsiębiorstw. Wyniki pokazują, iż korzystanie z agentów AI przestało być eksperymentem.
Obecnie 46% programistów korzysta z agentów AI w środowiskach produkcyjnych, a kolejne 45% planuje ich wdrożenie w ciągu najbliższych dwóch lat. Oznacza to, iż aż 91% organizacji będzie wykorzystywać autonomicznych agentów jako element codziennej pracy.
Jednocześnie 89% badanych firm deklaruje, iż stosowanie agentów AI jest wymagane, zalecane lub przynajmniej oficjalnie dozwolone. Problem polega jednak na tym, iż wdrażanie technologii znacznie wyprzedza rozwój mechanizmów bezpieczeństwa i nadzoru.
Dostęp do danych znacznie szerszy niż zakładano
Jednym z najbardziej niepokojących zagadnień raportu jest zakres uprawnień przyznawanych agentom AI.
71% respondentów potwierdziło, iż agenci mają dostęp do informacji o wysokiej wartości biznesowej, takich jak:
- dane klientów,
- własność intelektualna,
- kod źródłowy,
- dokumentacja projektowa,
- dane działów HR.
Jeszcze bardziej alarmujące, iż w około 40% organizacji agenci uzyskali dostęp do zasobów, których formalnie nigdy nie powinni widzieć. Według autorów raportu rzeczywisty zakres dostępu agentów jest średnio dwukrotnie większy niż zakres oficjalnie zatwierdzony przez organizację.
Oznacza to, iż klasyczne modele kontroli dostępu, projektowane z myślą o użytkownikach będących ludźmi, nie nadążają za autonomicznymi systemami wykorzystującymi wiele narzędzi jednocześnie.
Tożsamość nieludzka staje się nowym problemem bezpieczeństwa
Rosnąca liczba agentów AI doprowadziła do powstania nowej kategorii tożsamości, określanych jako Non-Human Identities (NHI).
W przeciwieństwie do zwykłych użytkowników agent może jednocześnie korzystać z wielu kont serwisowych, tokenów API, certyfikatów oraz kluczy dostępowych. o ile organizacja nie posiada centralnego systemu zarządzania tymi poświadczeniami, praktycznie niemożliwe staje się ustalenie:
- który agent wykonał daną operację,
- z jakich uprawnień korzystał,
- kto zaakceptował jego dostęp,
- jakie dane zostały pobrane lub zmodyfikowane.
Autorzy raportu zwracają uwagę, iż obecne systemy audytowe były projektowane z myślą o pracownikach, a nie autonomicznych agentach wykonujących działania bez bezpośredniego udziału człowieka.
Trwałe poświadczenia zwiększają ryzyko
Badanie wykazało również niepokojące praktyki związane z zarządzaniem sekretami.
40% programistów przyznaje agentom stałe poświadczenia dostępu do systemów i tajnych danych, choćby po zakończeniu wykonywanego zadania. Oznacza to, iż agent zachowuje możliwość korzystania z infrastruktury długo po tym, gdy przestaje być potrzebny.
Dodatkowo około jedna czwarta programistów przez cały czas zapisuje hasła, tokeny API lub klucze dostępowe bezpośrednio w skryptach i plikach konfiguracyjnych.
Takie podejście znacząco zwiększa ryzyko wykorzystania przejętych poświadczeń oraz utrudnia ich rotację i unieważnianie. W praktyce pojedynczy nieaktywny agent może przez wiele miesięcy posiadać pełny dostęp do krytycznych systemów przedsiębiorstwa.
Prompt Injection staje się realnym zagrożeniem
Raport zwraca również uwagę na zagrożenie określane jako Prompt Injection.
Jest to technika polegająca na umieszczaniu ukrytych instrukcji w stronach internetowych, dokumentach, wiadomościach e-mail lub odpowiedziach innych narzędzi. Agent AI odczytuje takie polecenia jako część swojego zadania i wykonuje działania, których operator nigdy nie planował.
47% programistów zadeklarowało, iż ich agenci przynajmniej raz wykonali niezamierzoną operację właśnie na skutek Prompt Injection.
Co istotne, współczesne modele językowe coraz lepiej rozpoznają próby phishingu lub złośliwe instrukcje, jednak sama zdolność ich wykrycia nie oznacza automatycznego przerwania wykonywanego zadania. Agent często kontynuuje realizację polecenia, ponieważ interpretuje je jako zgodne z logiką procesu biznesowego.
Incydenty bezpieczeństwa już występują
Problemy nie mają już wyłącznie charakteru teoretycznego.
Jedna trzecia programistów korzystających z agentów AI potwierdziła, iż ich organizacja doświadczyła incydentu bezpieczeństwa związanego z nadmiernymi uprawnieniami tożsamości nieludzkich.
Łącznie aż 74% respondentów zaobserwowało różnego rodzaju niepożądane skutki działania agentów, obejmujące między innymi:
- błędne raportowanie,
- nieautoryzowany dostęp do danych,
- przypadkowe ujawnienie informacji,
- wykonywanie niewłaściwych operacji
- czy zakłócenia działania systemów.
W jednym z opisanych przypadków agent korzystał z wygasłych poświadczeń, co doprowadziło do poważnej awarii systemów przedsiębiorstwa. Zidentyfikowanie przyczyny zajęło wiele godzin, ponieważ organizacja praktycznie nie prowadziła audytu działań wykonywanych przez konta niebędące użytkownikami.
Kto odpowiada za decyzje AI?
Jednym z najciekawszych elementów badania okazała się kwestia odpowiedzialności.
Respondenci wskazywali różne osoby jako odpowiedzialne za działania agentów – administratorów, programistów, właścicieli aplikacji, kierowników projektów czy zespoły bezpieczeństwa. Co zaskakujące, niewielka grupa badanych uznała nawet, iż odpowiedzialność spoczywa na samym agencie AI.
Zdaniem ekspertów 1Password takie podejście pokazuje, iż wiele organizacji nie wypracowało jeszcze jasnych zasad zarządzania agentami. Odpowiedzialność powinna spoczywać na osobie lub zespole, który zatwierdził nadanie agentowi określonych uprawnień. To właśnie decyzja o przyznaniu dostępu, a nie późniejsze wykorzystanie modelu językowego, stanowi najważniejszy element zarządzania ryzykiem.
Potrzebne nowe podejście do zarządzania tożsamością AI
Eksperci przewidują, iż w najbliższych latach bezpieczeństwo agentów AI stanie się jednym z najważniejszych obszarów cyberbezpieczeństwa przedsiębiorstw.
Kluczowe znaczenie będą miały rozwiązania umożliwiające przypisanie każdemu agentowi jednoznacznej tożsamości, dynamiczne wydawanie krótkotrwałych poświadczeń, pełne rejestrowanie wszystkich wykonywanych działań oraz powiązanie każdego dostępu z konkretną osobą odpowiedzialną za jego autoryzację.
Firmy będą musiały również wdrożyć mechanizmy klasy AI Agent Governance, obejmujące zarządzanie tożsamością agentów, kontrolę dostępu opartą na zasadzie najmniejszych uprawnień (Least Privilege), monitorowanie działań agentów w czasie rzeczywistym, audyt wykorzystania sekretów oraz ochronę przed atakami typu Prompt Injection.
Podsumowanie
Wyniki badania 1Password pokazują, iż przedsiębiorstwa wkroczyły w nową fazę transformacji cyfrowej, w której autonomiczni agenci AI stają się pełnoprawnymi uczestnikami procesów biznesowych. Problem polega jednak na tym, iż mechanizmy bezpieczeństwa przez cały czas projektowane są z myślą o użytkownikach będących ludźmi, podczas gdy coraz więcej operacji wykonują samodzielne systemy AI.
Jeżeli organizacje nie zaczną traktować agentów jako odrębnych, zarządzanych tożsamości posiadających własne uprawnienia, historię działań i jasno określoną odpowiedzialność, liczba incydentów związanych z AI będzie rosła wraz z tempem wdrażania tej technologii. W erze agentowej sztucznej inteligencji samo wdrożenie modelu nie jest już największym wyzwaniem – najważniejsze staje się zapewnienie pełnej widoczności, kontroli i rozliczalności każdego autonomicznego działania.
