Cisco i Hugging Face wzmacniają bezpieczeństwo modeli AI

Hugging Face, największe repozytorium otwartych modeli sztucznej inteligencji, rośnie w błyskawicznym tempie – co 7 sekund trafia tam nowy model, a dostępnych jest już blisko 1,9 mln zasobów. Ta skala sprzyja innowacjom, ale też zwiększa ryzyko – złośliwe pliki, podatne biblioteki czy niezweryfikowane dane mogą zagrozić całemu ekosystemowi AI. Aby temu przeciwdziałać, Cisco Foundation AI nawiązało strategiczną współpracę z Hugging Face.

W ramach podjętej współpracy wszystkie przesyłane na platformę pliki – modele i inne zasoby – są skanowane przy użyciu zaktualizowanego silnika ClamAV, wzbogaconego o mechanizmy wykrywania zagrożeń specyficznych dla AI. Pozwala to na szybszą i dokładniejszą identyfikację podatności, a informacje o zagrożeniach trafiają do całej społeczności.

Nowa wersja ClamAV 1.5 jako jedyna w VirusTotal umożliwia wykrywanie złośliwych modeli AI, np. ryzyk związanych z deserializacją plików .pt czy .pkl. Rozwiązanie działa w milisekundach i stanowi uzupełnienie wcześniejszego systemu Cisco Cerberus, nieustannie monitorującego Hugging Face.

Cisco wprowadziło też integrację ClamAV z własnymi produktami bezpieczeństwa, m.in. Secure Access, Secure Firewall i Secure Endpoint. Dzięki temu organizacje mogą kontrolować dostęp do repozytoriów, blokować podejrzane modele oraz egzekwować zgodność z politykami licencyjnymi i bezpieczeństwa.

„Od kilku lat korzystamy z ClamAV, darmowego i otwartego narzędzia Cisco Talos do wykrywania złośliwego oprogramowania. Dzięki najnowszej aktualizacji możemy oferować ochronę zarówno przed tradycyjnymi zagrożeniami, jak i tymi specyficznymi dla modeli AI, a wszystko w jednym narzędziu. To połączenie lidera otwartego AI z głęboką wiedzą Cisco w obszarze cyberbezpieczeństwa daje organizacjom i użytkownikom na całym świecie większą pewność w korzystaniu ze sztucznej inteligencji” – podsumował Julien Chaumond, CTO Hugging Face.