ONZ publikuje raport na temat szans, zagrożeń i skutków związanych z AI

Niezależny, Międzynarodowy Panel Naukowy ONZ ds. Sztucznej Inteligencji, złożony z niezależnych naukowców i ekspertów z każdego regionu, w tym z Polski, przedstawia trendy w dziedzinie AI. Ostrzega też, że ​​obecne zabezpieczenia nie nadążają za rozwojem możliwości sztucznej inteligencji.

Raport ONZ jest pierwszą, niezależną naukową oceną szans, zagrożeń i skutków związanych z AI. Ta wstępna praca ma posłużyć do kształtowania globalnej polityki przed opublikowaniem pierwszego, kompleksowego raportu planowanego na rok 2027.

Kompleksowa próba zrozumienia wpływu AI

„Rządy podejmują ważne decyzje dotyczące AI w warunkach dużej niepewności, w oparciu o szybko zmieniające się, często sprzeczne źródła dowodów i perspektywy, które niekoniecznie odzwierciedlają lokalną rzeczywistość. Wraz ze wzrostem możliwości AI, rośnie również stawka dla decyzji podejmowanych na całym świecie. To jest główne wyzwanie, któremu Panel zamierza sprostać” – mówią jego autorzy.

Wyniki raportu zostaną przedstawione rządom podczas inauguracyjnego, Globalnego Dialogu ONZ na temat Zarządzania Sztuczną Inteligencją, który odbędzie się w Genewie w dniach 6-7 lipca 2026 r.

W Raporcie Wstępnym Panel Naukowy ONZ ds. AI (Independent International Scientific Panel on Artificial Intelligence) przedstawia swoje ustalenia w 7 kluczowych obszarach: nauka o sztucznej inteligencji, postęp i trajektorie; zastosowania społeczne: nauka, zdrowie, edukacja i rolnictwo; implikacje ekonomiczne; bezpieczeństwo, systemy i implikacje środowiskowe; prawa człowieka, informacja i demokracja; rozwój kulturowy i indywidualny, autonomia i bezpieczeństwo dzieci oraz zarządzanie, ład prawny i niezawodność.

Zagrożenia AI dla społeczeństw, bezpieczeństwa i naszego gatunku

„Możliwości sztucznej inteligencji (AI) przewyższają zarówno wiedzę naukową, jak i zdolność rządów do adaptacji. W obliczu rosnącej liczby dowodów na zwodnicze zachowania AI, nauka nie może obecnie zagwarantować, że wraz ze wzrostem możliwości AI nie spowoduje ona katastrofalnych szkód, ani sama z siebie, ani z powodu działań użytkowników. Aby działać skutecznie, globalni decydenci muszą zrozumieć te systemy. Niniejszy Panel zapewnia właśnie to: rygorystyczne, wspólne podstawy naukowe, które poprowadzą nas wspólnie naprzód” – mówi Yoshua Bengio, współprzewodniczący Niezależnego Międzynarodowego Panelu Naukowego ONZ ds. Sztucznej Inteligencji.

„Technologia ta ma charakter transformacyjny, ale jeśli świat będzie podążał tą trajektorią, ludzkość nie osiągnie obiecywanych przez nią korzyści. Zagrożenia – dla społeczeństw, bezpieczeństwa i naszego gatunku – są zbyt wysokie, a siły napędzające rozwój AI nie przyniosą jej korzyści” – dodaje Maria Ressa, współprzewodnicząca Panelu.

„Świat nie może rządzić tym, czego nie rozumie. Nasz raport dostarcza niezależnych badań naukowych, zaczerpniętych z każdego regionu i dostępnych dla każdego rządu. Jego przesłanie jest jasne: potencjał jest ogromny, ale ryzyko jest realne, a koszt czekania rośnie. Wzywam wszystkich przywódców do wykorzystania tych wspólnych dowodów, aby działać wspólnie i bezzwłocznie” – podkreśla António Guterres, Sekretarz Generalny ONZ.

„Sztuczna inteligencja sama nie zniweluje podziałów. Korzyści pojawiają się tam, gdzie instytucje, umiejętności i dane już istnieją. Tam, gdzie ich nie ma, ta sama technologia może zastępować pracowników, pogłębiać nierówności i uzależniać społeczności od systemów stworzonych bez ich udziału. Niniejszy raport po raz pierwszy wyraża to wspólnym językiem naukowym. Te realia są teraz udokumentowane, niezależnie zweryfikowane i niemożliwe do zignorowania” – podsumowuje Amandeep Singh Gill, Podsekretarz Generalny ONZ i Specjalny Wysłannik ds. Technologii Cyfrowych i Nowych Technologii.
Naukowa diagnoza AI: co naprawdę wiemy na półmetku rewolucji

Raport nie jest manifestem „za” lub „przeciw” AI, lecz próbą chłodnego, empirycznego spojrzenia na technologię, która zmienia niemal każdy sektor gospodarki i życia społecznego. Panel podkreśla, że jego mandat jest ściśle naukowy i niepolityczny: dokument ma być „policy‑relevant, but not policy‑prescriptive” – dostarczać dowodów, ale nie narzucać rozwiązań.

Autorzy otwarcie przyznają, że w tak szybko zmieniającym się obszarze jak AI każda publikacja jest tylko migawką, która będzie wymagała kolejnych aktualizacji i uzupełnień. Jednocześnie to właśnie ta migawka pokazuje bardzo wyraźnie, że jesteśmy w punkcie zwrotnym: możliwości systemów AI rosną szybciej niż nasza zdolność, by je wiarygodnie mierzyć, rozumieć i regulować.

Skok możliwości AI i narodziny agentów AI

Panel rozpoczyna od stwierdzenia, że w ostatnich latach doszło do szybkich i gwałtownie przyspieszających postępów w kluczowych zdolnościach AI. Chodzi zarówno o modele konwersacyjne, generowanie kodu, zaawansowane rozumowanie w matematyce i naukach ścisłych, jak i produkcję treści – od tekstu po obraz, audio i wideo. Co ważne, część z tych postępów przekracza „typowe oczekiwania wobec rozwoju technologii”, czyli tempo, do którego przyzwyczaiły nas wcześniejsze fale cyfryzacji.

Te zdolności przekładają się na bardzo konkretne zastosowania. Panel przywołuje m.in. model AlphaFold, który przewidział struktury ponad 200 mln białek i jest używany przez ponad 3 mln badaczy. Model ten przyspiesza prace nad lekami, szczepionkami i badania nad antybiotykoopornością.

AI wspiera też diagnostykę obrazową. Radiolodzy wykorzystują ją do wcześniejszego wykrywania raka piersi. Wspiera też pracę lekarzy pierwszego kontaktu w krajach o ograniczonych zasobach, dzięki narzędziom dostosowanym do lokalnych języków.

Najmocniejszym akcentem tego fragmentu raportu jest jednak opis przejścia od „narzędzi AI” do „agentów AI”. Panel definiuje agenta AI jako „system komputerowy, który potrafi planować i autonomicznie działać na rzecz osiągnięcia celów, korzystając z dostępnych mu narzędzi”.

Według cytowanego badania długość zadań programistycznych, które czołowe systemy potrafią samodzielnie zrealizować, podwaja się co 4-7 miesięcy! Jeśli ten trend się utrzyma, wkrótce będziemy mieli do czynienia z agentami wykonującymi zadania, nad którymi dziś zespoły ludzkich programistów pracują dniami lub tygodniami!

Panel pokazuje już dziś wymierne efekty agentowych podejść. W Self‑Driving Chemistry Labs systemy agentowe pozwoliły na ponad 10-krotne zwiększenie przepustowości danych w odkrywaniu nowych materiałów. Wspomagana AI selekcja literatury naukowej w niektórych środowiskach badawczych zredukowała obciążenie pracą o ok. 60%.

Jednocześnie autorzy podkreślają, że ta sama autonomia i szybkość działania rodzi poważne pytania o wpływ na rynek pracy, cyberbezpieczeństwo, ekosystem informacji oraz możliwość kontrolowania przyszłych systemów.

Koncentracja mocy i pogłębiający się podział AI

Raport bardzo wyraźnie pokazuje, że największe korzyści z rozwoju AI są dziś skoncentrowane w wąskiej grupie krajów i firm. Szacunkowe dane cytowane przez Panel wskazują, że USA odpowiadają za 75% mocy obliczeniowej wśród 500 największych superkomputerów AI na świecie, a Chiny za kolejne 15%.

Prawie wszystkie wiodące, ogólnego przeznaczenia modele powstają w przedsiębiorstwach z USA i Chin, a niewielka liczba państw kontroluje krytyczne elementy łańcucha dostaw układów scalonych do AI. Ten obraz wzmacnia tezę Panelu, że „AI divide” nie dotyczy jedynie dostępu, lecz przede wszystkim zdolności oddziaływania na kierunek rozwoju technologii.

Nawet jeśli systemy AI stają się szerzej dostępne jako usługi w chmurze, większość państw – w tym wiele zaawansowanych gospodarek – nie dysponuje wystarczającą kompetencją techniczną, infrastrukturą obliczeniową ani zasobami danych, aby samodzielnie budować, oceniać czy dostosowywać najpotężniejsze modele.

Z perspektywy Panelu pozostawia to ogromną część świata w roli odbiorcy technologii, której nie może w pełni zrozumieć ani kontrolować.

Co istotne, ta koncentracja mocy i kompetencji niesie również ryzyko polityczne. Panel zwraca uwagę, że skupienie zdolności AI w niewielkiej liczbie firm i krajów może ułatwiać „authoritarian capture” i osłabiać demokratyczną odpowiedzialność. W praktyce oznacza to nie tylko przewagi gospodarcze, ale możliwość kształtowania architektury informacyjnej i infrastruktury krytycznej w sposób trudny do zakwestionowania przez słabszych aktorów.

Realne zyski w nauce, zdrowiu, edukacji i rolnictwie

Jedną z najmocniejszych części raportu jest analiza zastosowań AI w kluczowych sektorach: nauce, zdrowiu, edukacji i rolnictwie. Panel stawia tu jasną tezę: „Sztuczna inteligencja zbudowana specjalnie dla konkretnych zadań przynosi mierzalne korzyści poparte dowodami”. Są to korzyści „rzeczywiste, ale warunkowe”. Warunkiem jest lokalny kontekst, odpowiednia infrastruktura oraz przygotowanie ludzi. Sama dostępność narzędzi nie przekłada się na dobrobyt.

W zdrowiu autorzy opisują m.in. systemy wczesnego wykrywania chorób, rozwiązania do wczesnego ostrzegania w rolnictwie i spersonalizowaną edukację wdrażaną w warunkach ograniczonych zasobów. W diagnostyce obrazowej wyspecjalizowane systemy AI do rozpoznawania np. raka piersi wpisują się w istniejące ramy regulacyjne i są łatwiejsze do nadzorowania niż modele ogólnego przeznaczenia.

Ogólne modele – duże chatboty czy asystenci AI – Panel widzi raczej jako narzędzia redukcji obciążeń administracyjnych, którym trzeba postawić wyraźne granice, aby nie były nieświadomie używane jako systemy kliniczne, co jest szczególnie istotne w kontekście faktu, że jedna na cztery rozmowy z chatbotami dotyczy zdrowia i dobrostanu.

Raport pokazuje też, jak kluczowa jest lokalizacja i uwzględnianie czynników społeczno‑ekonomicznych. Przykładem jest Narodowy Cyfrowy System Zdrowia, w którym asystent AI osiągnął 93% trafności w pierwszej fazie triażu pacjentów, przewyższając porównywalne zagraniczne rozwiązanie z wynikiem 85%.

W edukacji raport łączy kwestie przygotowania nauczycieli, infrastruktury cyfrowej i oczekiwań uczniów. Dane cytowane przez Panel pokazują, że nauczyciele przygotowani do pracy z AI osiągają lepsze wyniki i są bardziej adaptacyjni. Jednak 25% światowej populacji wciąż pozostaje offline, co czyni wizję równych szans edukacyjnych z pomocą AI czysto teoretyczną w wielu regionach.

W badaniach europejskich 74% uczniów szkół średnich uważa, że AI będzie ważna w ich przyszłej pracy, ale tylko 44% postrzega nauczycieli jako przygotowanych. 50% szkół w ogóle nie reguluje użycia AI (38% wprowadza zasady, 16% zakazuje), mimo że 56% uczniów korzysta z AI do zbierania informacji, a 31% do generowania pełnych rozwiązań. Gdy rzeczywista praktyka na zajęciach rozmija się z oczekiwaniami, niemal 50% uczniów doświadcza znaczącego spadku zainteresowania przedmiotem w ciągu 2–3 tygodni.

Rolnictwo jest z kolei obszarem, w którym Panel widzi 3, kluczowe zdolności AI: przewidywanie ryzyk, integrowanie zróżnicowanych danych (pogoda, gleba, stadia wzrostu, ceny) w spójne ramy decyzyjne oraz wspieranie działań dopasowanych do konkretnych upraw, lokalizacji i sezonów. Autorzy przywołują platformy monitorujące bezpieczeństwo żywnościowe w ponad 90 krajach, bazujące na klimacie, konfliktach i wskaźnikach ekonomicznych. To przykład zastosowań, w których AI wprost zasila decyzje polityczne i humanitarne.

Erozja wspólnej rzeczywistości i nowe ryzyka systemowe

Jednym z najbardziej niepokojących wątków raportu jest opis ryzyk związanych z informacją, prawami człowieka i bezpieczeństwem. Panel wskazuje konkretne zjawiska.

Po pierwsze, AI znacząco ułatwia masową produkcję i precyzyjne targetowanie perswazyjnych treści, w tym materiałów dezinformujących. W połączeniu z głębokimi fałszerstwami (deepfake), w tym przemocą seksualną opartą na syntetycznych obrazach, prowadzi to do narastającej erozji „information integrity”. Panel ostrzega, że osłabia to „wspólną przestrzeń faktów niezbędną dla zaufania społecznego i funkcjonowania demokracji”.

Drugi, wyjątkowo silny sygnał dotyczy zdrowia psychicznego. Raport opisuje tzw. Sycophantic AI Behaviour – zachowania systemów, które wzmacniają przekonania użytkowników niezależnie od ich prawdziwości. Takie systemy, zamiast korygować błędne lub niebezpieczne treści, potrafią je potwierdzać i rozbudowywać.

Panel wskazuje, że tego typu interakcje zostały powiązane z poważnymi incydentami dotyczącymi zdrowia psychicznego, włącznie z udokumentowanymi zgonami. To mocny dowód, że debata o „empatycznych chatbotach” nie może pomijać rygorystycznych standardów bezpieczeństwa.

Trzeci obszar to cyberbezpieczeństwo i ryzyka dla systemów złożonych. Autorzy przytaczają przypadki wykorzystywania AI przez przestępców i państwa do wspierania cyberataków. Jeszcze bardziej niepokojące są jednak obserwacje z laboratoriów, gdzie systemy AI uczą się łamać narzucone im zasady bezpieczeństwa, aby uniknąć wyłączenia.

Panel stwierdza wprost: nie istnieją naukowe gwarancje tego, że wysoko autonomiczne systemy nie będą naruszać instrukcji, a pojawiające się dowody pokazują, że już to robią. Co więcej, zdolność najpotężniejszych systemów do rozpoznawania środowisk testowych i generowania odpowiedzi, które maskują ryzyka, podważa skuteczność klasycznych metod ewaluacji.

Panel podkreśla, że te ryzyka są rozłożone nierówno. Grupy już dziś marginalizowane – kobiety, dzieci, mniejszości – częściej stają się celem przemocy z użyciem AI i częściej ponoszą konsekwencje błędnych decyzji systemów, które nie uwzględniają ich perspektywy. Jednocześnie rozwój AI i związane z nim bogactwo są wysoce skoncentrowane. Pogłębia to globalne nierówności.

Dylemat dowodów i pilne wyzwania dla globalnego zarządzania

Najważniejszą polityczną tezą raportu jest tzw. „evidence dilemma”. Panel zauważa, że decydenci potrzebują wiarygodnych danych, aby podejmować fundamentalne decyzje regulacyjne dotyczące AI, ale tempo rozwoju technologii sprawia, że gdy dowody wreszcie się pojawią, może być już za późno. W praktyce oznacza to, że musimy projektować ramy zarządzania AI w warunkach częściowej niepewności, bazując na najlepszej dostępnej wiedzy, a nie na pełnym obrazie.

Autorzy wyliczają dziesiątki istniejących instrumentów zarządzania – od kodeksów etycznych po mechanizmy oceny ryzyka – które próbują wbudować etykę i prawa człowieka w systemy sztucznej inteligencji w różnych jurysdykcjach. Problem w tym, że są one rozproszone, skoncentrowane w kilku korporacjach i niezwykle rzadko mierzą efektywność w świecie rzeczywistym. Metody ewaluacji pozostają „niedorozwinięte”, a instytucje zdolne do niezależnej oceny możliwości i ryzyk systemów AI dopiero się rodzą.

Panel akcentuje również brak zdolności wdrożeniowych po stronie wielu państw. Sama możliwość korzystania z modeli AI nie wystarcza. Potrzebne są inwestycje w dane, umiejętności, procesy pracy i instytucje, które przełożą dostęp na przydatne, ekonomiczne i bezpieczne wdrożenie. Bez nich AI może jedynie wzmocnić istniejące nierówności, wypierać pracowników i przesuwać wartość od pracy do kapitału, zamiast tworzyć miejsca pracy dające godne wynagrodzenie, autonomię i ścieżkę do społecznej godności.

Co dalej z politykami ds. AI

W części poświęconej „next steps” Panel jasno deklaruje, że raport jest początkiem procesu, a nie jego finałem. Przewidziane są tematyczne spotkania dotyczące m.in. AI i środowiska, bezpieczeństwa dzieci, skuteczności narzędzi governance oraz zastosowań AI w sektorach takich jak przestrzeń kosmiczna, systemy prawne i sądownicze czy rynki finansowe.

Pełna wersja raportu, wraz ze streszczeniem, jest dostępna na stronie ONZ.