Pierwsza encyklika o AI. Papież ostrzega przed technologiczną władzą i autonomiczną bronią

Papież Leon XIV opublikował pierwszą encyklikę swojego pontyfikatu, a zarazem pierwszy w historii Kościoła dokument tej rangi poświęcony sztucznej inteligencji. W „Magnifica Humanitas” ostrzega przed koncentracją technologicznej władzy w rękach prywatnych firm, militaryzacją AI, dezinformacją oraz społecznymi kosztami cyfrowej gospodarki. Jednocześnie apeluje o międzynarodowe regulacje i „rozbrojenie” sztucznej inteligencji, aby technologia pozostała narzędziem służącym człowiekowi.

Licząca ponad 200 stron encyklika „Magnifica Humanitas” (Wspaniała ludzkość) jest jednym z najbardziej kompleksowych dokumentów Kościoła dotyczących nowych technologii. Papież Leon XIV przedstawia w niej sztuczną inteligencję nie tylko jako przełom technologiczny, ale również jako wyzwanie polityczne, społeczne i cywilizacyjne. Centralnym przesłaniem dokumentu jest przekonanie, że AI nie może zostać podporządkowana logice dominacji, geopolitycznej rywalizacji i maksymalizacji zysków. Papież podkreśla, że technologia powinna wzmacniać ludzką godność i wspierać dobro wspólne, a nie pogłębiać nierówności i zależności. „Rozbroić nie znaczy odrzucić technologię, lecz nie dopuścić, by zapanowała nad ludzkością” – stwierdza Leon XIV.

Watykan ostrzega przed koncentracją władzy technologicznej

Jednym z głównych tematów encykliki jest rosnąca koncentracja technologicznej i ekonomicznej siły w rękach prywatnych podmiotów rozwijających AI. Papież wskazuje, że skala wpływu największych firm technologicznych zaczyna przekraczać możliwości kontrolne wielu państw.

„Głównymi motorami rozwoju są podmioty prywatne, często transnarodowe, dysponujące zasobami i możliwościami interwencji przewyższającymi możliwości wielu rządów. Władza technologiczna nabiera zatem bezprecedensowego, głównie „prywatnego” charakteru” – czytamy w dokumencie.

W ocenie Leona XIV taka koncentracja zwiększa ryzyko manipulacji informacją, wpływania na procesy demokratyczne i pogłębiania społecznych nierówności: „Gdy taka władza jest skoncentrowana w rękach nielicznych, staje się ona nieprzejrzysta i wymyka się publicznemu nadzorowi, zwiększając ryzyko zniekształconych form rozwoju, które prowadzą do nowych zależności, wykluczeń, manipulacji i nierówności”.

Papież apeluje jednocześnie o stworzenie międzynarodowych regulacji dotyczących AI, obejmujących zarówno nadzór nad modelami sztucznej inteligencji, jak i kwestie własności danych czy wykorzystania algorytmów w sektorze publicznym. „Nie wystarczy powoływać się na etykę w oderwaniu od kontekstu; potrzebne są solidne ramy prawne, niezależny nadzór, świadomi użytkownicy i system polityczny, który nie zrzeka się swojej odpowiedzialności”.

Papież: decyzji o śmierci nie wolno oddawać AI

Jednym z najmocniejszych fragmentów encykliki jest krytyka militaryzacji sztucznej inteligencji. Leon XIV ostrzega, że rozwój autonomicznych systemów bojowych i cyfrowych narzędzi prowadzenia konfliktów może radykalnie obniżyć próg użycia przemocy. „Nie ma algorytmu, który mógłby uczynić wojnę moralnie dopuszczalną” – wskazuje.

Papież uważa, że współczesne konflikty coraz częściej obejmują cyberataki, manipulację informacją i automatyzację decyzji strategicznych, a granica między obroną a agresją staje się coraz mniej wyraźna. „To, co zostało stworzone do obrony, może zostać szybko wykorzystane do ataku, a cienka granica między ochroną a agresją zaciera się” – podkreśla.

W dokumencie pojawia się także bezpośredni sprzeciw wobec przekazywania systemom AI decyzji o życiu i śmierci: „Rozwój i wykorzystanie sztucznej inteligencji w działaniach wojennych musi podlegać najsurowszym ograniczeniom etycznym… nie wolno powierzać decyzji prowadzących do śmierci lub w inny sposób nieodwracalnych systemom sztucznym”.

Warto podkreślić, że papieska encyklika ukazała się w momencie nasilającej się globalnej rywalizacji technologicznej pomiędzy USA, Chinami i Europą oraz coraz większych inwestycji w wojskowe zastosowania AI.

Dezinformacja, rynek pracy i „ludzki koszt” AI

Leon XIV poświęca też dużo miejsca wpływowi sztucznej inteligencji na społeczeństwo, media i rynek pracy. Ostrzega przed erozją debaty publicznej i manipulacją informacją generowaną przez systemy AI. „Demokracja to nie tylko zasady i procedury, ale przede wszystkim solidna zgodność z faktami i autentyczne zaangażowanie w dobro jednostek i społeczeństwa jako całości. Obojętność na prawdę prowadzi, powoli, ale nieuchronnie, do popadania w totalitaryzm” – czytamy w ekcyklice.

Papież wraca również do kwestii automatyzacji pracy oraz kosztów społecznych związanych z rozwojem cyfrowej gospodarki. W encyklice pojawia się krytyka modelu rozwoju opartego wyłącznie na efektywności i maksymalizacji zysków: „Ochrona możliwości zatrudnienia i niezastąpiona rola jednostki muszą pozostać ogólną zasadą. Dążenie do większych zysków nie może usprawiedliwiać wyborów, które systematycznie poświęcają miejsca pracy”.

Dokument zwraca uwagę również na ukryte koszty produkcji technologii, w tym wydobycia metali ziem rzadkich wykorzystywanych w elektronice i infrastrukturze AI: „W niektórych regionach świata nastolatki i dzieci pracują w niebezpiecznych warunkach, rozdrabniając materiały, z których pozyskuje się metale ziem rzadkich. Ciała naznaczone, okaleczone, wyniszczone po to, by przepływ obliczeń się nie zatrzymał”.

Leon XIV: w epoce AI trzeba pozostać „głęboko ludzkim”

Wraz z publikacją encykliki Watykan poinformował również o powołaniu specjalnej komisji ds. sztucznej inteligencji, która ma koordynować działania i projekty związane z AI w strukturach Stolicy Apostolskiej.

Warto dodać, że Leon XIV od początku swego pontyfikatu regularnie ostrzega przed bezkrytycznym podejściem do nowych technologii. Wcześniej wskazywał, że AI może tworzyć „równoległą rzeczywistość” wpływającą na debatę publiczną i społeczne postrzeganie prawdy.

Końcowe przesłanie papieskiej encykliki ma jednak charakter bardziej humanistyczny niż technologiczny. Papież podkreśla, że rozwój AI nie może prowadzić do redukowania człowieka do danych, algorytmu lub zasobu ekonomicznego. „W epoce sztucznej inteligencji, gdy godności człowieka grozi zaciemnienie przez nowe formy odczłowieczenia, mamy pilny obowiązek pozostać głęboko ludzkimi” – wskazuje.