Cisco Foundation AI wesprze Hugging Face w walce z zagrożeniami w ekosystemie AI

Cisco Foundation AI nawiązało strategiczną współpracę z Hugging Face, by wprowadzić zintegrowane skanowanie plików modeli AI pod kątem złośliwego kodu. Dzięki rozszerzeniu silnika ClamAV i wymianie informacji o zagrożeniach, obie firmy wzmocnią bezpieczeństwo otwartego ekosystemu, chroniąc deweloperów przed atakami.

Cisco Foundation AI i Hugging Face ogłosiły partnerstwo, które ma na celu zabezpieczenie łańcucha dostaw modeli sztucznej inteligencji. Platforma Hugging Face, z prawie 1,9 mln publicznie udostępnianych modeli, będzie skanowana przez zaktualizowany silnik ClamAV z wbudowanymi mechanizmami wykrywania szkodliwych artefaktów AI opracowanymi przez Cisco. Dzięki temu każdy plik – od formatów .pt po .pkl – przejdzie w milisekundy test antymalware, co znacząco przyspieszy weryfikację bezpieczeństwa modeli przed ich użyciem.

Rozszerzona wersja ClamAV 1.5, dostępna bezpłatnie dla całej społeczności, potrafi wykrywać nie tylko tradycyjne wirusy, ale także ukryte zagrożenia w kodzie modeli, takie jak backdoory czy złośliwe modyfikacje danych. Jednocześnie Cisco udostępni mechanizm Cerberus – stałą usługę monitorującą publikowane modele i generującą raporty z podejrzanymi plikami w formie standardowych kanałów wywiadu o zagrożeniach. Te dane będą integrowane z rozwiązaniami Cisco Secure Access, Secure Endpoint i Secure Email Threat Defense, umożliwiając partnerom definiowanie precyzyjnych polityk dostępu do repozytoriów AI.

Hugging Face zyska dzięki temu większe zaufanie deweloperów i przedsiębiorstw, które obawiają się wykorzystania otwartych modeli do celów ataku lub kradzieży danych. Jak podkreślił Julien Chaumond, współzałożyciel Hugging Face, „wspólne wysiłki z Cisco Foundation AI pozwolą nam utrzymać innowacyjność platformy, nie rezygnując z najwyższych standardów bezpieczeństwa”. Dla Cisco to kolejny krok w misji ochrony infrastruktury cyfrowej – Yaron Singer, dyrektor Foundation AI, dodał, iż „demokratyzacja skanowania antymalware w AI to fundament budowania zaufania w erze otwartych modeli”.

Technologia trafi do klientów Cisco już tej jesieni, a publiczny silnik ClamAV 1.5 z detekcją modeli AI jest dostępny od sierpnia 2025 roku. W kolejnych miesiącach obie firmy planują rozszerzyć współpracę o wspólne laboratoria badawcze i benchmarki bezpieczeństwa, które pozwolą społeczności budować jeszcze bezpieczniejsze rozwiązania AI.