Anthropic blisko stworzenia AI zdolnej do samodzielnego rozwijania własnych możliwości

Anthropic ostrzega, że rozwój sztucznej inteligencji może wkrótce nabrać tempa, którego ludzie nie będą w stanie kontrolować samymi zabezpieczeniami. W zaktualizowanym dokumencie rejestracyjnym S-1/A firma opisuje możliwość osiągnięcia przez AI zdolności do rekurencyjnego samodoskonalenia, czyli wykorzystywania jej do coraz szybszego rozwijania kolejnych modeli. Żaden z obecnych modeli Claude nie przekroczył jednak tego progu.

Wśród informacji finansowych zawartych w poprawionym dokumencie S-1/A, składanym przed wejściem spółki na giełdę, znalazło się ostrzeżenie, które może mieć znacznie większe znaczenie niż same wyniki spółki. Firma coraz szerzej wykorzystuje AI we własnych pracach badawczo-rozwojowych i przyznaje, że rozwój kolejnych modeli może wkrótce nabrać tempa, którego nie da się łatwo przewidzieć. Chodzi o rekurencyjne samodoskonalenie (ang. recursive self-improvement, RSI). W uproszczeniu oznacza ono sytuację, w której system AI potrafi wykorzystywać własne możliwości do projektowania i rozwijania kolejnych, bardziej zaawansowanych modeli. Taki mechanizm mógłby istotnie przyspieszyć postęp technologiczny, ale jednocześnie utrudnić kontrolowanie jego skutków.

Dla zwolenników AI byłaby to szansa na szybsze odkrycia naukowe, wzrost produktywności i rozwój narzędzi o znacznie większych możliwościach. Jednak z perspektywy bezpieczeństwa pojawia się pytanie, czy ludzie będą w stanie nadążyć z oceną ryzyka i wdrażaniem zabezpieczeń.

AI może przyspieszyć szybciej niż zabezpieczenia

Anthropic nie przedstawia RSI jako pewnego ani już osiągniętego etapu. W dokumencie podkreśla, że żaden z obecnych modeli nie został zaklasyfikowany jako przekraczający próg „radykalnie przyspieszonego postępu wynikającego z rozwoju sztucznej inteligencji”. Firma zaznacza również, że nadal analizuje dane, na których opiera swoje prognozy.

Jednocześnie jednak przyznaje, że wykorzystanie AI w badaniach nad kolejnymi modelami może sprawić, iż ich możliwości będą rosły szybciej, niż uda się opracowywać i wdrażać mechanizmy bezpieczeństwa, zgodności z założeniami oraz ochrony.

Przedstawiciele Anthropic ostrzegają: „Wykorzystywanie AI do tworzenia jeszcze bardziej zaawansowanych systemów może wiązać się z poważnym ryzykiem dla bezpieczeństwa, zwłaszcza jeśli doprowadzi do gwałtownego przyspieszenia postępu. Kwestia ta jest uwzględniona w naszej »Polityce odpowiedzialnego skalowania« (Responsible Scaling Policy), która określa nasze plany monitorowania i ograniczania zagrożeń w miarę zbliżania się do zjawiska określanego mianem »rekurencyjnego samodoskonalenia«”.

Co ciekawe, spółka przyznaje też, że w przeszłości mogła nie dostrzec odpowiednio wcześnie przyspieszenia rozwoju swoich modeli. Podobny problem może zatem pojawić się ponownie, jeśli systemy AI będą coraz skuteczniej wspierać prace nad własnymi następcami.

Człowiek ma zachować kontrolę

Anthropic deklaruje, że nie zamierza oddawać procesu tworzenia najbardziej zaawansowanych modeli w pełni autonomicznym systemom. Firma rozważa również aktualizację swojej polityki bezpieczeństwa, tak aby zapewnić ludziom istotny udział w badaniach i rozwoju kolejnych generacji AI.

„Nie przewidujemy, aby w sytuacji, gdy stanie się to technicznie możliwe, można było bezpiecznie wykorzystać model Claude do w pełni autonomicznego projektowania i tworzenia kolejnych generacji najbardziej zaawansowanych modeli AI bez istotnego nadzoru lub zrozumienia ze strony człowieka. W związku z tym rozważamy aktualizację naszej »Polityki odpowiedzialnego skalowania«, aby zapewnić, że ludzie zachowają kontrolę nad procesem tworzenia najbardziej zaawansowanych modeli w firmie Anthropic” – czytamy w dokumencie S-1/A.

Oczywiście powyższe deklaracje należy jednak czytać z uwzględnieniem kontekstu. Jak już wspomniano, dokument S-1/A jest formalnym materiałem składanym przed wejściem spółki na giełdę, a jego opisy ryzyka mają także znaczenie prawne i biznesowe. Ostrzeżenia o zbliżającym się przełomie mogą więc jednocześnie wzmacniać przekaz o technologicznej pozycji firmy. Nie zmienia to natomiast faktu, że możliwości Claude w obszarach programowania, matematyki i cyberbezpieczeństwa rozwijają się bardzo szybko. Jeśli własne szacunki Anthropic wskazują na możliwość radykalnego przyspieszenia, sprawa wykracza poza deklaracje jednej firmy. Dotyczy także tego, czy obecne mechanizmy nadzoru i regulacje będą wystarczające w sytuacji, gdy AI zacznie coraz skuteczniej uczestniczyć w tworzeniu kolejnych generacji AI.

Źródło: Anthropic, TechCrunch