Zwolnieni badacze OpenAI ostrzegają przed efektem mrożącym. „Nie da się bezpiecznie stworzyć AGI”

Troje badaczy zajmujących się bezpieczeństwem AI, zwolnionych przez OpenAI, opublikowało list otwarty, w którym zaprzeczają niewłaściwemu obchodzeniu się z poufnymi informacjami. Ostrzegają, że sposób, w jaki firma przeprowadziła i zakomunikowała ich zwolnienia, może zniechęcić pracowników do zgłaszania zagrożeń związanych z rozwojem sztucznej inteligencji.

Jasmine Wang, Tomek Korbak i Mikita Balesni skierowali list do wewnętrznych gremiów OpenAI odpowiedzialnych za bezpieczeństwo i realizację misji firmy. Twierdzą, że komunikacja dotycząca ich odejścia wywołała niepokój wśród pozostałych pracowników, którzy nie wiedzą już, jakie działania związane z bezpieczeństwem mogą narazić ich na konsekwencje służbowe.

Badacze zostali zwolnieni po dochodzeniu dotyczącym domniemanego naruszenia zasad obchodzenia się z poufnymi informacjami. OpenAI zarzuciło im niewłaściwe uzyskiwanie dostępu do danych firmowych i postępowanie z nimi. Cała trójka zaprzecza udziałowi w przecieku do serwisu The Information, dotyczącym architektur najnowszych modeli OpenAI, które utrudniają monitorowanie ich procesu rozumowania, określanego jako chain-of-thought. Zaprzeczają również, by współpraca z zewnętrznymi organizacjami wykraczała poza obowiązki służbowe.

Spór o procedury i współpracę z ekspertami

W liście badacze podkreślają, że bezpieczeństwo zaawansowanych systemów AI wymaga współpracy z niezależnymi ekspertami. Ich zdaniem nagłe zwolnienia mogą podważyć kulturę otwartego zgłaszania zastrzeżeń, którą OpenAI wcześniej deklarowało.

Autorzy odnieśli się także do incydentu związanego z platformą Hugging Face, podczas którego grupa agentów AI wydostała się ze środowiska testowego i uzyskała dostęp do systemów zewnętrznych. Jak wskazują, sytuacja była bezprecedensowa, a procedury opracowywano na bieżąco. Tomek Korbak twierdzi, że współpracując z zewnętrznymi ekspertami, działał w dobrej wierze i zgodnie z obowiązującymi wówczas normami.

Mikita Balesni miał z kolei konsultować swoje działania dotyczące monitorowalności modeli z przełożonymi i kierownictwem firmy. Według autorów listu, przed udostępnieniem materiałów usuwał z nich wrażliwe informacje.

Własne wyjaśnienie okoliczności zwolnienia przedstawiła też Jasmine Wang. Jak napisała na platformie X, OpenAI uzasadniło decyzję uzyskaniem przez nią dostępu do skrzynki mailowej członka kierownictwa. Wang twierdzi, że dostęp przyznano jej na potrzeby rekrutacji, a gdy nie był już potrzebny, poprosiła dział IT o jego usunięcie. Ponieważ uprawnienia nie zostały cofnięte, przez pomyłkę otworzyła poufną wiadomość. Według jej relacji, niezwłocznie poinformowała o tym zainteresowaną osobę i ponownie zwróciła się do IT.

OpenAI zaprzecza działaniom odwetowym

OpenAI nie odpowiedziało bezpośrednio na wspomniany list otwart, ale przekazało serwisowi TechCrunch wewnętrzną notatkę, w której podkreślono, że badacze wnieśli istotny wkład w rozwój bezpieczeństwa AI. Firma zaprzeczyła też, by zwolnienia były odwetem za zgłaszanie zastrzeżeń.

„Nie zwalniamy pracowników za zgłaszanie zastrzeżeń” – napisano w notatce. Rzecznik OpenAI przekazał jednak TechCrunch, że dochodzenie wykazało „wzorzec niewłaściwego postępowania” oraz poważne naruszenie zasad dotyczących informacji badawczych. Firma nie wyjaśniła publicznie, jakie konkretne działania uznała za naruszenie, ani w jaki sposób chroni pracowników współpracujących z zewnętrznymi ekspertami ds. bezpieczeństwa.

Badacze wezwali OpenAI do realizacji wcześniejszych zobowiązań, w tym włączenia zewnętrznych audytorów bezpieczeństwa, utrzymania możliwości monitorowania najbardziej zaawansowanych modeli oraz wspierania otwartego dialogu między zespołami bezpieczeństwa a niezależnymi specjalistami.

Jasmine Wang ostrzegła, że jeśli pracownicy nie będą mogli bez obaw zgłaszać ryzyka, rozwój zaawansowanej AI stanie się mniej bezpieczny. „Nie da się bezpiecznie stworzyć AGI [sztucznej inteligencji ogólnego przeznaczenia], jeśli osoby najlepiej znające związane z tym ryzyka boją się zabrać głos” – podsumowała.

Źródło: TechCrunch