Sztuczna inteligencja zrewolucjonizowała sposób pisania kodu, ale równocześnie otworzyła drzwi dla nowych zagrożeń. Cisco odpowiada na ten problem, prezentując Project CodeGuard – otwarty framework, który ma wprowadzić zasady „secure by default” do świata kodowania z udziałem AI.
Cisco wprowadza ramy bezpieczeństwa dla kodu generowanego przez AI
Zespoły programistyczne na całym świecie coraz częściej korzystają z agentów piszących kod wspieranych sztuczną inteligencją, aby zwiększać produktywność i przyspieszać proces wytwarzania oprogramowania. Wraz z tą rewolucją pojawił się jednak problem braku odpowiednich zabezpieczeń w kodzie tworzonym przez AI.
Według danych branżowych choćby połowa fragmentów kodu generowanego przez narzędzia AI zawiera błędy lub podatności wynikające z braku walidacji danych wejściowych, niebezpiecznych domyślnych ustawień, użycia przestarzałych bibliotek czy zapisanych na stałe danych uwierzytelniających. Cisco, znane z rozwiązań sieciowych i bezpieczeństwa klasy enterprise, postanowiło zmierzyć się z tym wyzwaniem w sposób systemowy.
Project CodeGuard to inicjatywa mająca stworzyć wspólny język bezpieczeństwa dla wszystkich agentów AI, niezależnie od ich architektury czy producenta.
Framework „secure by default”
Cisco określa CodeGuard jako framework bezpieczeństwa wprowadzający zasady „secure by default” do całego procesu tworzenia kodu przez sztuczną inteligencję. Oferuje on zestaw gotowych reguł, które można integrować z popularnymi agentami AI, a także narzędzia do automatycznej kontroli zgodności tworzonych aplikacji z tymi zasadami.
Projekt obejmuje trzy najważniejsze etapy cyklu życia kodu:
- Faza planowania – reguły mogą być wykorzystywane już na etapie projektowania architektury i specyfikacji, kierując modele AI w stronę bezpiecznych rozwiązań.
- Generowanie kodu – agenci programistyczni stosują reguły bezpieczeństwa w czasie rzeczywistym, ograniczając błędy typowe dla katalogów OWASP i CWE.
- Przegląd kodu – CodeGuard współpracuje z agentami audytowymi, takimi jak Cursor, GitHub Copilot czy Windsurf, automatycznie analizując wygenerowany kod pod kątem zgodności z regułami bezpieczeństwa.
Automatyzacja bezpieczeństwa w praktyce
Przykładem praktycznego zastosowania frameworku jest reguła walidacji danych wejściowych, która wykrywa potencjalnie niebezpieczne operacje na danych użytkownika i wymusza stosowanie bezpiecznych mechanizmów. Inna reguła ostrzega przed wklejaniem do kodu kluczy lub haseł, kierując programistę do wykorzystania odpowiednich menedżerów poświadczeń.
Takie rozwiązania sprawiają, iż bezpieczeństwo przestaje być dodatkiem wdrażanym po fakcie, a staje się integralną częścią procesu programowania. Cisco podkreśla, iż jego celem nie jest spowolnienie pracy programistów, ale zapewnienie, by bezpieczeństwo było domyślne, a nie opcjonalne.
CodeGuard 1.0.0 i rozwój projektu
Wraz z premierą wersji 1.0.0 Cisco udostępnia podstawowy zestaw reguł bezpieczeństwa, narzędzia integracyjne oraz dokumentację dla deweloperów. Zaprezentowano także mapę rozwoju frameworku, która zakłada rozszerzanie zestawu reguł o kolejne języki programowania i narzędzia AI, a także wprowadzenie automatycznej walidacji zgodności z kontekstem projektu.
Jak podkreśla Omar Santos z Cisco PSIRT (Product Security Incident Response Team), „Project CodeGuard jest projektem otwartym, rozwijanym we współpracy ze społecznością. Jego celem jest nie tylko dostarczenie narzędzi, ale także kształtowanie standardów bezpieczeństwa w obszarze rozwiązań opartych na sztucznej inteligencji”.
