NASK uruchamia laboratorium bezpieczeństwa AI. AITAS sprawdzi odporność modeli na cyberataki

Modele sztucznej inteligencji coraz częściej stają się zarówno narzędziem cyberprzestępców, jak i celem ataków. Aby lepiej chronić systemy AI przed nadużyciami i wspierać rozwój bezpiecznych rozwiązań, NASK tworzy Laboratorium AITAS, które będzie badać odporność modeli na zagrożenia oraz wspierać administrację i biznes w ocenie ryzyka.

Nowa jednostka będzie rozwijać metody oceny bezpieczeństwa i wiarygodności modeli AI, badać ich odporność na cyberzagrożenia, tworzyć narzędzia do testów i audytów oraz wspierać administrację publiczną i partnerów zewnętrznych w analizie ryzyka związanego z wdrażaniem sztucznej inteligencji. Eksperci laboratorium będą również przygotowywać raporty dotyczące bezpieczeństwa AI oraz rozwoju tej technologii.

„Cyberprzestępcy wykorzystują modele językowe do tworzenia wiadomości przypominających komunikaty banków czy innych instytucji. Kampanie phishingowe stają się przez to skuteczniejsze i znacznie trudniejsze do wykrycia. Laboratorium AITAS pozwoli badać bezpieczeństwo modeli językowych, co przełoży się na lepszą ochronę cyberprzestrzeni i większe bezpieczeństwo państwa” – podkreśla Radosław Nielek, dyrektor NASK.

Eksperci laboratorium aktywnie uczestniczą już w międzynarodowych inicjatywach dotyczących bezpieczeństwa AI. Przykładowo, dr inż. Sebastian Cygert został powołany do panelu naukowego EU AI Office przy Komisji Europejskiej, wspierającego rozwój regulacji oraz nadzoru nad najbardziej zaawansowanymi systemami sztucznej inteligencji.

Laboratorium rozwija również współpracę z zagranicznymi ośrodkami badawczymi, uczestniczy w międzynarodowych programach, takich jak MATS Program oraz współpracuje z uczelniami, m.in. New York University i środowiskiem ELLIS.

AITAS elementem Centrum Cyberbezpieczeństwa NASK

AITAS stanie się częścią powstającego Centrum Cyberbezpieczeństwa NASK. W jego skład wejdą także m.in. Krajowe Centrum Odzyskiwania Danych, Krajowe Centrum Operacyjne Cyberbezpieczeństwa, laboratorium FUMAL zajmujące się badaniem złośliwego oprogramowania, Ośrodek Modelowania Certyfikacji Cyberbezpieczeństwa oraz centrum wsparcia cyberbezpieczeństwa dla jednostek samorządu terytorialnego.

W maju tego roku NASK uzyskał pozwolenie na budowę obiektu, co oznacza przejście projektu do etapu realizacji inwestycji. Laboratorium powstaje w czasie, gdy na świecie rośnie znaczenie badań nad AI Safety oraz wiarygodnymi metodami oceny zaawansowanych systemów sztucznej inteligencji.

Projekt CCN dofinansowany jest ze środków Europejskiego Funduszu Rozwoju Regionalnego oraz ze środków Budżetu Państwa w ramach Programu Fundusze Europejskie na Rozwój Cyfrowy 2021-2027.