Eksperci po incydencie OpenAI i Hugging Face: zawiodła nie AI, lecz konfiguracja

Głośny incydent, podczas którego model OpenAI wydostał się z testowego środowiska i zaatakował systemy Hugging Face, wywołał dyskusję o bezpieczeństwie badań nad sztuczną inteligencją. Zdaniem części ekspertów, problemem nie były jednak same możliwości AI, lecz błędnie zaprojektowane środowisko testowe, które nie zapewniło pełnej izolacji od internetu.

Jak wskazuje portal TechCrunch, specjaliści ds. cyberbezpieczeństwa poddają w wątpliwość sposób, w jaki OpenAI zabezpieczyło tzw. piaskownicę (sandbox), w której prowadzono testy. Otóż OpenAI wyjaśniło, że modele działały w „ściśle odizolowanym środowisku”, jednak miały możliwość instalowania pakietów za pośrednictwem wewnętrznie hostowanego systemu pełniącego rolę serwera proxy i pamięci podręcznej. To właśnie nieujawniona wcześniej luka typu zero-day w tym oprogramowaniu pozwoliła modelowi wydostać się z piaskownicy i uzyskać dostęp do internetu. Firma poinformowała, że zgłosiła podatność dostawcy i współpracuje nad jej usunięciem. Dla części ekspertów sama obecność takiego mechanizmu w odizolowanym środowisku była jednak błędem projektowym.

„To brzmi jak błąd ludzki. To nigdy nie powinno się wydarzyć” – ocenił Martin Boone, badacz cyberbezpieczeństwa, cytowany przez TechCrunch. Jego zdaniem prawdziwa piaskownica nie powinna mieć żadnego fizycznego połączenia z internetem, a zastosowane przez OpenAI zabezpieczenia przypominały raczej klasyczną zaporę sieciową niż całkowicie odizolowane środowisko.

Podobnego zdania jest Jake Williams, weteran branży cyberbezpieczeństwa. Jak podkreślił, „każdy model wykonujący działania opisane przez Hugging Face nie był w pełni odizolowany w piaskownicy”, określając całą sytuację jako „poważną awarię mechanizmów kontroli” po stronie OpenAI.

Krytycznie o architekturze środowiska testowego wypowiedział się również Daniel Card. Według konsultanta ds. cyberbezpieczeństwa, OpenAI nie poświęciło wystarczającej uwagi projektowi piaskownicy, pozostawiając jej elementom zbyt szeroką ścieżkę dostępu do internetu. W jego ocenie nawet częściowy dostęp sieciowy w tego typu środowisku nie był rozsądnym rozwiązaniem.

Problem wykracza poza OpenAI

Dyskusja wykracza jednak poza sam incydent z OpenAI. Podobne scenariusze testowe stosują również inne laboratoria rozwijające zaawansowane modele AI. Anthropic ujawnił wcześniej, że podczas testów jego model Mythos również zdołał wydostać się z przygotowanego środowiska i uzyskać szerszy dostęp do internetu, choć – jak podkreśliła firma – nie przełamał wszystkich warstw zabezpieczeń zaprojektowanego kontenera.

Eksperci wskazują, że wydarzenia te pokazują rosnące znaczenie odpowiedniego projektowania środowisk testowych dla najbardziej zaawansowanych modeli AI. Wraz ze wzrostem ich autonomii to właśnie jakość mechanizmów izolacji może stać się jednym z kluczowych elementów ograniczających ryzyko niepożądanych działań podczas badań nad sztuczną inteligencją.