Gigantyczna platforma AI pod ochroną Cisco. ClamAV przeskanuje miliony modeli

Cisco i Hugging Face, największe na świecie repozytorium modeli sztucznej inteligencji, ogłosiły strategiczną współpracę.

Celem jest wzmocnienie bezpieczeństwa całego ekosystemu AI. W ramach partnerstwa wszystkie pliki trafiające na platformę Hugging Face będą skanowane dzięki rozbudowanego silnika antywirusowego ClamAV od Cisco.

Problem bezpieczeństwa w świecie AI narasta wraz z popularnością otwartych platform takich jak Hugging Face, na którą co siedem sekund trafia nowy model, a ich łączna liczba zbliża się do dwóch milionów. Jak wskazują badania Cisco, zagrożenia mogą kryć się na każdym etapie – od zainfekowanych zbiorów danych, przez podatne na ataki biblioteki, aż po pliki modeli zawierające złośliwy kod. Skala zjawiska sprawia, iż niezbędna jest kooperacja całej branży w celu ochrony łańcucha dostaw AI.

Sztuczna inteligencja to miecz obosieczny dla naszej cyfrowej tożsamości. Nowy raport Cisco

Odpowiedzią na te wyzwania ma być integracja zaktualizowanego silnika ClamAV z platformą Hugging Face. Narzędzie, rozwijane przez Cisco Talos, zostało wzbogacone o mechanizmy dedykowane wykrywaniu zagrożeń specyficznych dla modeli AI. Jak podkreśla Julien Chaumond, CTO Hugging Face, jego firma od lat korzystała z ClamAV, ale nowa wersja pozwala na ochronę zarówno przed tradycyjnym złośliwym oprogramowaniem, jak i nowymi wektorami ataków w jednym narzędziu.

Nowa wersja ClamAV 1.5 potrafi w milisekundy identyfikować ryzyka związane m.in. z deserializacją w popularnych formatach modeli, takich jak .pt czy .pkl. Jest to w tej chwili jedyny silnik antywirusowy w popularnej usłudze VirusTotal, który koncentruje się na wykrywaniu złośliwego systemu w plikach modeli AI. Rozwiązanie to uzupełnia działający już wcześniej system Cerberus od Cisco, który na bieżąco monitoruje zasoby Hugging Face.

Nowe możliwości ochrony są już dostępne nie tylko na samej platformie, ale zostały także zintegrowane z produktami bezpieczeństwa Cisco, takimi jak Secure Access, Secure Firewall czy Secure Endpoint. Dzięki temu firmy korzystające z rozwiązań Cisco mogą m.in. kontrolować dostęp swoich pracowników do repozytoriów Hugging Face, blokować podejrzane modele czy egzekwować firmowe polityki bezpieczeństwa.

Zostań instruktorem Cisco. Darmowe szkolenia dla nauczycieli otworzą uczniom drzwi do kariery w IT

Jeśli artykuł Gigantyczna platforma AI pod ochroną Cisco. ClamAV przeskanuje miliony modeli nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.