Hugging Face, największe repozytorium otwartych modeli sztucznej inteligencji, rośnie w błyskawicznym tempie - co 7 sekund trafia tam nowy model, a dostępnych jest już blisko 1,9 mln zasobów. Ta skala sprzyja innowacjom, ale też zwiększa ryzyko - złośliwe pliki, podatne biblioteki czy niezweryfikowane dane mogą zagrozić całemu ekosystemowi AI. Aby temu przeciwdziałać, Cisco Foundation AI nawiązało strategiczną współpracę z Hugging Face. W ramach podjętej współpracy wszystkie przesyłane na platformę pliki - modele i inne zasoby - są skanowane przy użyciu zaktualizowanego silnika ClamAV, wzbogaconego o mechanizmy wykrywania zagrożeń specyficznych dla AI. Pozwala to na szybszą i dokładniejszą identyfikację podatności, a informacje o zagrożeniach trafiają do całej społeczności. Nowa wersja ClamAV 1.5 jako jedyna w VirusTotal umożliwia wykrywanie złośliwych modeli AI, np. ryzyk związanych z deserializacją plików .pt czy .pkl. Rozwiązanie działa w milisekundach i stanowi uzupełnienie wcześniejszego systemu Cisco Cerberus, nieustannie monitorującego Hugging Face. Cisco wprowadziło też integrację ClamAV z własnymi produktami bezpieczeństwa, m.in. Secure Access, Secure Firewall i Secure Endpoint. Dzięki temu organizacje mogą kontrolować dostęp do repozytoriów, blokować podejrzane modele oraz egzekwować zgodność z politykami licencyjnymi i bezpieczeństwa. "Od kilku lat korzystamy z ClamAV, darmowego i otwartego narzędzia Cisco Talos do wykrywania złośliwego oprogramowania. Dzięki najnowszej aktualizacji możemy oferować ochronę zarówno przed tradycyjnymi zagrożeniami, jak i tymi specyficznymi dla modeli AI, a wszystko w jednym narzędziu. To połączenie lidera otwartego AI z głęboką wiedzą Cisco w obszarze cyberbezpieczeństwa daje organizacjom i użytkownikom na całym świecie większą pewność w korzystaniu ze sztucznej inteligencji" - podsumował Julien Chaumond, CTO Hugging Face.
