Jedna dziesiąta aplikacji opartych na generatywnej sztucznej inteligencji stwarza poważne zagrożenie dla bezpieczeństwa przedsiębiorstw. Większość polskich firm (68%) nie przygotowała się jeszcze na implementację przepisów AI Act, podczas gdy na początku 2025 roku odnotowano dwuipółkrotny wzrost liczby naruszeń bezpieczeństwa danych.
Badania przeprowadzone przez Palo Alto Networks pokazują, iż każda dziesiąta aplikacja GenAI może stanowić zagrożenie dla poufnych danych korporacyjnych. Paradoksalnie, chociaż 70% użytkowników AI traktuje bezpieczeństwo jako priorytet, to ponad dwie trzecie polskich przedsiębiorstw nie podjęło kroków w celu dostosowania się do wymagań AI Act.
Przez cały 2024 rok obserwowano systematyczny wzrost adopcji narzędzi GenAI w środowisku biznesowym – średnio o 32% miesięcznie. Popularne platformy jak ChatGPT, Gemini czy Copilot coraz powszechniej pojawiają się w firmach, często bez kontroli ze strony działów informatycznych. Typowe przedsiębiorstwo wykorzystuje w tej chwili około 66 różnych rozwiązań GenAI, a budżety IT są przeznaczane na szybkie implementacje, często ze szkodą dla aspektów bezpieczeństwa.
Szczególnie problematyczne są narzędzia wspomagające pisanie, na przykład Grammarly, które mają dostęp do wrażliwych dokumentów firmowych. Badania Palo Alto Networks ujawniły, iż 70% takich aplikacji jest narażonych na ataki typu jailbreaking, które mogą prowadzić do tworzenia szkodliwych treści oraz potencjalnego naruszenia bezpieczeństwa danych. Wojciech Gołębiowski z Palo Alto Networks dla Europy Wschodniej przestrzega, iż wiele dostępnych na rynku aplikacji może charakteryzować się słabym zabezpieczeniem i tym samym stanowić ryzyko dla użytkowników.
Specjaliści podkreślają konieczność zachowania równowagi między dynamicznym rozwojem GenAI a implementacją odpowiednich środków bezpieczeństwa. Organizacje powinny wdrożyć mechanizmy kontroli dostępu do danych, zarządzania uprawnieniami oraz edukacji pracowników. Nowe przepisy regulacyjne, włączając NIS2, DORA i AI Act, nakładają na zespoły IT obowiązek zabezpieczenia poufnych informacji i implementacji rozwiązań blokujących nieautoryzowane aplikacje GenAI.
