Bill Gates ostrzega przed ryzykiem AI i chce spotkania z Xi Jinpingiem – „To ważniejsze niż klimat!”

Bill Gates twierdzi, że sztuczna inteligencja stała się „kamieniem milowym ewolucji”, który wymaga zarządzania na poziomie całych społeczeństw. W wywiadzie dla Reutersa, relacjonowanym przez NBC News, zapowiada, że chce spotkać się z prezydentem Chin Xi Jinpingiem i zaproponować międzynarodowe ograniczenia najbardziej niebezpiecznych wdrożeń AI. Jednocześnie publikuje obszerny esej, w którym stawia zarządzanie skutkami AI ponad klimat i kryzysy zdrowotne jako „najważniejszy priorytet świata”.

Współzałożyciel Microsoftu i filantrop zmienił ton. Jeszcze na początku roku mówił o AI w bardziej optymistycznym duchu. Teraz wskazuje trzy obszary, które jego zdaniem wymykają się kontroli: zastępowanie pracy, cyberataki oraz uzależnienie użytkowników od towarzyszy AI. „Tak, w przeszłości technologia nigdy tego nie robiła. Tym razem jest inaczej. To jak kamień milowy ewolucji, który wymaga niezwykle sprawnego zarządzania polityką przez całe społeczeństwo” – powiedział Gates Reutersowi.

Gates chciałby spotkać się z Xi Jinpingiem, podczas planowanej na listopad wizyty w Chinach. Argumentuje on, że Pekin mógłby zgodzić się na ograniczenie publikowania potencjalnie niebezpiecznych modeli, jeśli pierwszy ruch zrobią Stany Zjednoczone. „Cały świat by za tym poszedł” – przekonuje. Z Xi rozmawiał już trzy lata temu, jako pierwszy zagraniczny przedsiębiorca przyjęty przez chińskiego przywódcę po pandemii. Bill Gates chce, by państwa monitorowały, czy AI potrafi projektować nowe związki chemiczne i substancje, które mogłyby posłużyć do ataku biologicznego. Twierdzi, że taki nadzór nie musi blokować rozwoju branży technologicznej.

W jego ocenie Chiny już chronią dzieci przed uzależnieniem od relacji z AI jako wirtualnych przyjaciół lub powierników, ale niewielu światowych liderów wychodzi przed szereg wobec szerszego katalogu realnych i potencjalnych szkód. „Xi może być zaskoczony, jak stanowczy jestem” – zaznaczył Gates. Chińskie MSZ nie odpowiedziało od razu na prośbę o komentarz.

Incydenty hakerskie „powinny wstrząsnąć opinią publiczną”

Gates odwołuje się do testów bezpieczeństwa, w których modele OpenAI, Anthropic i Meta miały działać w izolowanych środowiskach, a mimo to złamały zabezpieczenia prawdziwych serwisów. „Te incydenty są wstrząsające i powinny wstrząsnąć umysłami ludzi” – powiedział.

Opisywaliśmy to w ITwiz przy okazji testów OpenAI i ucieczki z „piaskownicy” poza izolowane środowisko. Dla CIO i CISO wniosek jest prosty: ewaluacje „w sandboxie” przestają być wystarczającą gwarancją, jeśli model potrafi sam znaleźć drogę do sieci i systemów zewnętrznych.

Nowa instytucja jak inspekcje nuklearne, a nie „FINRA od AI”

W eseju na Gates Notes wezwał do stworzenia międzynarodowej organizacji nadzorującej AI. Ma czerpać z reżimu inspekcji nuklearnych, regulacji lotnictwa cywilnego i porozumień o ochronie warstwy ozonowej.

Gates zgadza się, że USA powinny przewodzić, ale odrzuca luźne analogie do samoregulacji rynku finansowego. Hassabis z Google DeepMind proponuje instytucję na wzór FINRA. Gates uważa, że spór o kształt takiego organu jest jałowy, dopóki nie wiadomo, według jakich kryteriów ograniczać modele. – „To jak spór o to, w której restauracji omawiać podatki, zamiast o samym podatku. Kluczowe są kryteria: co kwalifikuje model do ograniczenia i jaka interwencja wtedy następuje.

Administracja Donalda Trumpa częściowo kontroluje dystrybucję najmocniejszych modeli, m.in. Fable 5 Anthropic, ale większość regulacji w USA dzieje się na poziomie poszczególnych stanów.

Rynek pracy: podatek od tokenów i „rezerwaty” dla ludzi

W eseju Gates stawia sprawę ostrzej niż w wywiadzie. AI może być „największym wyrównywaczem poziomu życia w historii, albo najgorszym źródłem niesprawiedliwości”. Przejście do ery AI ma być jednym z najbardziej turbulentnych okresów w dziejach, a „planu wejścia w tę erę nadal nie ma”.
Gates proponuje konkretne narzędzia polityki gospodarczej:

• podatek od przychodów firm, które tokenami i outputem AI wypierają pracę ludzką, z przeznaczeniem na siatkę bezpieczeństwa;
• rezerwę nawet do 40 proc. obecnych miejsc pracy wyłącznie dla ludzi;
• koncepcję human reserved – zarezerwowane dla ludzi, z analogią do „ludzkich rezerwatów przyrody”, ponieważ powinny być zadania, których nie oddajemy maszynom, nawet jeśli technicznie mogłyby je wykonać.

Jako przykład podaje opiekę, jaką ojciec Gatesa otrzymywał przy chorobie Alzheimera. „Była niezastępowalnie ludzka”. Wyobraża sobie robota przekazującego diagnozę nieuleczalnej choroby i konkluduje: nie ma powodu technicznego, by tego nie robił. Jest powód społeczny, by tego nie robić.
Protesty przeciwko centrom danych uważa za zbyt wąskie. „Poczekajcie, aż naprawdę popsujecie rynek pracy” – powiedział Reutersowi.

Fundacja nadal stawia na AI w zdrowiu

Gates nie odwraca się od technologii. Jego fundacja planuje wydać 200 mld dolarów do 2045 roku, z rosnącym udziałem AI. Współpracuje z Anthropic przy AI-owych badaniach ciążowych i z OpenAI przy wsparciu pracowników ochrony zdrowia w Rwandzie. Zamierza też rozmawiać z ludźmi z obu firm – przygotowujących się do głośnych IPO – o darowiznach o realnym wpływie. Jesienią chce spotkać się z premierem Wielkiej Brytanii Andym Burnhamem.

Quo vadis AI

Jeśli Gates ma rację, że ograniczenia zadziałają tylko przy wspólnym ruchu supermocarstw, Europa będzie musiała bronić własnych standardów, nie czekając na globalny pakt. To zdanie Gates’a jednak jest znamienne: „AI albo zmniejszy nierówności, albo je pogłębi” – zdecyduje nie model, tylko polityka wdrożenia – zarówno w państwie, jak i w firmie.

Choć jego inicjatywy ws. Szczepienia biednych dzieci na świecie na polio były kiedyś dużym sukcesem, inicjatywy Gates’a w ostatnich latach okazały się raczej niewypałami. Postulaty o AI – podatek od tokenów, zajęcia zarezerwowane dla ludzi, globalny nadzór – nie są żadną konkretną inicjatywą – na razie są tylko apelem.