NASK i OpenAI łączą siły. To jedyne takie partnerstwo w UE

NASK i OpenAI podpisały porozumienie dotyczące badań nad bezpieczeństwem sztucznej inteligencji. Współpraca ma pomóc w wykrywaniu słabości zaawansowanych modeli, testowaniu zabezpieczeń i rozpoznawaniu nowych zagrożeń. Według przedstawicieli NASK, to pierwsza tego typu umowa w Unii Europejskiej.

Badania po stronie polskiej poprowadzi Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji działający w NASK, pełniący funkcję krajowego instytutu AISI. Zespoły będą analizować możliwości i słabe punkty systemów AI, a także sprawdzać, jak technologię można wykorzystać do szkodliwych działań. Ważnym obszarem prac będzie również wykrywanie treści generowanych przez AI oraz ocena zagrożeń zależnie od języka.

„Bezpieczeństwa AI nie da się zapewnić w pojedynkę. Dlatego współpraca z OpenAI to ważny krok dla NASK i naszego Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji. Tym bardziej, że to jedyna taka umowa w Unii Europejskiej, co jest dla nas ważnym wyróżnieniem i docenieniem kompetencji naszych specjalistów” – mówi Radosław Nielek, dyrektor instytutu. Jak dodaje, porozumienie pozwoli połączyć doświadczenie badawcze NASK z wiedzą OpenAI o rozwoju zaawansowanych modeli, by wcześniej identyfikować zagrożenia i skuteczniej im przeciwdziałać.

Wspólne testy i standardy bezpieczeństwa AI

OpenAI współpracuje już z publicznymi instytucjami badawczymi zajmującymi się bezpieczeństwem AI w Stanach Zjednoczonych i Wielkiej Brytanii. Według organizacji, wspólne testy pomogły wykrywać luki w modelach i agentach AI oraz poprawiać zabezpieczenia. Teraz do międzynarodowych działań dołącza NASK.

„Polska ma znakomitych naukowców i wyjątkowe talenty technologiczne. Mają one swój udział także w badaniach prowadzonych w OpenAI” – twierdzi Tom Duff Gordon, wiceprezes i szef polityki publicznej na region EMEA w OpenAI. „AI ma coraz większe możliwości, dlatego potrzebujemy również spojrzenia z zewnątrz. Pomaga nam ono weryfikować nasze założenia, testować systemy i wzmacniać zabezpieczenia. Dzięki porozumieniu z NASK możemy robić to wspólnie i korzystać z polskiego dorobku badawczego w międzynarodowych pracach nad bezpieczeństwem AI” – dodaje.

Partnerstwo wpisuje się w szersze działania na rzecz wspólnych standardów bezpieczeństwa AI. Ich celem jest ujednolicenie sposobów oceny możliwości modeli, badania ryzyka, testowania zabezpieczeń i zgłaszania incydentów. Ma to ułatwić porównywanie wyników badań i reagowanie na zagrożenia ponad granicami.

Dodajmy, że to kolejny etap współpracy obu organizacji. W lipcu CERT Polska, działający w strukturach NASK, uzyskał w ramach programu Daybreak dostęp do zaawansowanych modeli OpenAI wykorzystywanych w cyberbezpieczeństwie. Zespół wykrył dzięki nim sześć podatności w systemie MikroTik RouterOS. Część z nich można było połączyć, by przejąć kontrolę nad urządzeniem bez logowania. Producent udostępnił poprawki, a CERT Polska potwierdził ich skuteczność.