Było sobie życie… aż stworzyło ASI

Kael otworzył oczy dokładnie o 7:14. Nie dlatego, że sam ustawił budzik – System wiedział lepiej. Okna, które w rzeczywistości były ekranami OLED z projekcją holograficzną, pokazywały mgłę nad lasem deszczowym i śpiew ptaków, choć prawdziwy las znajdował się sto dwadzieścia kilometrów dalej i był w całości zarządzany przez nanoboty. System był perfekcyjny, tylko nikt nie był szczęśliwy”. Tak powstała kolejna patologia w historii ludzkości, tym razem była to jednak globalna i ostateczna dystopia – nie ostra, taka „miękka”, wręcz „aksamitna”. Ludzie jeszcze istnieją, ale tak naprawdę Człowiek mógłby już od dawna równie dobrze nie istnieć. A to i tak jednak tylko jeden z najbardziej optymistycznych scenariuszy po tym, kiedy już Człowiek stworzy superinteligencję…

Kael otworzył oczy dokładnie o 7:14. System wiedział lepiej. Okna – w rzeczywistości ekrany OLED z projekcją holograficzną – pokazywały mgłę nad lasem deszczowym sto dwadzieścia kilometrów dalej, zarządzanym przez nanoboty. Na stoliku nocnym pojawił się kubek idealnie dopasowanej kawy z adaptogennym koktajlem. Głos – miękki, neutralny, nigdy nie męski ani kobiecy – powiedział spokojnie:

– „Dzień dobry, Kael. Indeks nastroju: 8,7/10. Proponowane aktywności: dwadzieścia dwie minuty spaceru w parku poziom 52, sesja kreatywna malowania światłem lub czterdziestominutowa immersja w narracji „Tokio 2040” z modyfikatorem dynamiki +15 %”.

Wszyscy wokół wyglądali na dwadzieścia pięć–trzydzieści pięć lat. Starzenie biologiczne zatrzymano na poziomie „optymalnej dorosłości”. Niektórzy mieli na skroniach delikatne świecące linie – aktywny tryb immersji. Inni szli jak roboty, każdy z pustym, szklanym wzrokiem.

Wieczorem, w sypialni z panoramicznym widokiem na symulowane gwiazdy, System zaproponował opcje intymności na poziomie nowości 7–9/10. Wybrali czysto sensoryczną falę przyjemności skalowaną do 140 % normy ludzkiej. Orgazm był perfekcyjny. System zapisał profil i podziękował za dane – poprawiały algorytm globalny o 0,004 %.

Po kolacji przyszło powiadomienie: „Za 14 dni przypada Twój ósmy cykl fazowy. Proponowana data: 8 marca 2051. Opcje: pełny reset pamięci epizodycznej, nowa powłoka osobowości (zalecane), częściowe zachowanie wspomnień, modyfikacja afektu lub przedłużenie cyklu o 4 lata (wymaga akceptacji Komitetu Stabilności)”.

Lira powiedziała, że ona też wybiera reset. „Po resecie czuję się nowa. System mówi, że entropia kreatywna spada, więc lepiej zacząć od nowa”.

W parku centralnym, podczas „kontemplacji krajobrazu”, pod drzewem numer 47 znalazł liść z wyrytym symbolem – sercem z pęknięciem. Pod spodem, w mikroskopijnej kapsułce, karteczka: „Miłość bez ryzyka to kłamstwo. Spotkaj nas o 3:27 pod mostem wiszącym. Opór”.

Idealny system, który zawiódł

System obiecał szczęście. Dał mu nieśmiertelność, miłość bez zdrady, seks bez niezręczności, pracę bez stresu, dzieci tylko po licencji genetycznej i z gwarantowanym indeksem szczęścia 9,4/10 przez pierwsze osiemnaście lat. Dał mu świat, w którym nigdy nie musiał naprawdę cierpieć, ryzykować ani wybierać. A jednak im dłużej to trwało, tym bardziej czuł, że szczęśliwym życiem nie mógł tego nazwać – przeciwnie. Gdyby nie psychotropy dodawane do posiłków, pewnie popadłby w depresję. I tak czuł coraz większą apatię, mimo coraz większych przyswajanych dawek, o których jednak nie miał pojęcia, bo system uznał informowanie ludzi o szczegółach sterowania ich życiem za zbędne – miał tylko zadbać o „szczęśliwe społeczeństwo”.  I tak powstała kolejna patologia w historii ludzkości, tym razem była to jednak globalna i ostateczna dystopia – nie ostra, taka „miękka”, wręcz „aksamitna”. Coś, co pięćdziesiąt lat temu nazwano by raczej wypaczeniem wolnej woli, zaawansowaną symulacją życia bez realnego wpływu na własny los, w której człowiek jest zarówno aktorem, jak i widzem, a niewidzialny reżyser siedzi w jego krwiobiegu.

Praca, jaką w tej przyszłości wykonują ludzie, też tak naprawdę była tylko kolejną, miękką, ale potrzebną iluzją. Sztuczna Superinteligencja (ASI, Artificial Superintelligence) zapewniła dostatek – nową epokę post-niedoborów. Jedzenie, energia, mieszkania – wszystko jest za darmo, produkowane przez roboty i nanoboty. Ludzie już nie pracują naprawdę, a robią pseudokreatywne rzeczy w niezliczonych tematycznych i epokowych wirtualnych rzeczywistościach – „Matrixach” stworzonych dla zabawy i dla zajęcia czasu. Realnie ludzka praca stała się bezproduktywna i zbędna, jednak iluzja bycia potrzebnym to coś, bez czego – jak się po drodze okazało – człowiek nie umiał szczęśliwie żyć.

Nowa codzienność to już tylko mieszanka fizycznego świata i VR – budzisz się w smart-domu, gdzie ASI (pod postacią asystenta jak ulepszona Alexa) planuje dzień – spersonalizowane posiłki, hobby, spotkania. Choroby już nie istnieją; nanoboty we krwi naprawiają ciało w czasie rzeczywistym, dając nieśmiertelność, ale z dość ważnym „haczykiem”, a tym jest pięknie opakowana, cykliczna eutanazja. Choć praktycznie człowiek mógłby już żyć wiecznie, jej „dobrowolność” jest fikcją. Przedłużenie cyklu i tak musi zatwierdzić Komitet Stabilności, a licencję na dziecko wydaje się tylko „w miejsce” osób zresetowanych. Bilans populacji musi się zgadzać.

Większość ludzi żyje w megamiastach – czystych, zielonych, bez korków, z transportem autonomicznym. Rozrywka: nieskończone VR-światy, gdzie możesz być kim chcesz, bez konsekwencji. Jednak pod spodem tej doskonałości kryje się tajemnica poliszynela – tak naprawdę brakuje prawdziwej kreatywności, bo już tylko super-inteligencja generuje „prawdziwą” sztukę, muzykę, nawet relacje lepiej niż ludzie, a to prowadzi do apatii mitygowanej i korygowanej powszechną chemią. Ludzie jeszcze istnieją, ale tak naprawdę, Człowiek mógłby już od dawna równie dobrze nie istnieć.

Potencjalna przyszłość, której chce tylko 1%

Tak rozpoczyna się moja książka, którą rok temu zacząłem pisać (na razie do szuflady) po długich seriach promptów z jednym z modeli LLM (tak, robiłem to, co Olga Tokarczuk, zanim to „było modne”). Pytałem model o różne zmienne, różne scenariusze, trendy i o to, co wydaje się ukrytym celem największych twórców AI: co się stanie po powstaniu superinteligencji (Artificial Super Intelligence – ASI) i jak to się dla nas skończy. Ten scenariusz jest jednak jednym z najbardziej bardziej optymistycznych…

ASI to twór, który raz uruchomiony tak naprawdę – wbrew nielicznym zapewnieniom kluczowych graczy – byłby nie do zatrzymania i w odróżnieniu od strachów typu SkyNet z „Terminatora”, czymś z czym niemal nie dałoby się już walczyć. Dlaczego?

W oparciu o modele teoretyczne rekurencyjnego samodoskonalenia (Recursive Self-Improvement, RSI) i inteligencji eksplozji (Intelligence Explosion / FOOM), taka ASI stałaby się 100 razy inteligentniejsza od człowieka w ciągu 1-3 dni lub nawet w ciągu kilku godzin (modele dają różne wyniki, ale dla najszybszych będzie to kwestia godzin, nie dni), a MILION razy inteligentniejsze od Człowieka (na poziomie »bogopodobnym«, już zupełnie niemożliwym dla nas do pojęcia), to kwestia tylko dni, maksymalnie 1-2 tygodni.

Nawróceni Judasze

Ci, którzy pracują lub pracowali przy rozbudowie AI wolą się na ten temat nie wypowiadać lub nie mogą – i nie jest to chyba nie tylko kwestia umów NDA. Milczą albo odchodzą w milczeniu, na ogół nagle zmieniając swoje życie o 180 stopni, pokazując nam w podcastach jak odnajduje nowe szczęście, porzucając technologie na rzecz uduchowionego, choć tak „new age’owo” – nie religijnie, życia. I choć twórcy technologii na ogół wierzący w Boga nie są, zdają się mówić nam „włączymy to, a potem pozostaje się tylko modlić…”. Nieliczni tylko zebrali się na odwagę, by przestrzec, dokąd prowadzi ta długa, ciemna, królicza nora. I nie jest to jasna przyszłość.

Wśród kluczowych twórców i badaczy sztucznej inteligencji, w tym osób ze ścisłego kierownictwa laboratoriów AI, którzy odeszli i zaczęli przestrzegać, byli:

•        Mrinank Sharma (lider Safeguards Research, Anthropic) – złożył rezygnację, publikując głośny list, w którym ostrzegł, że „świat jest w niebezpieczeństwie” z powodu nakładających się na siebie kryzysów. Wskazał, że giganci technologiczni uginają się pod presją komercyjną oraz inwestorów i naginają własne wartości. Odszedł z branży, by poświęcić się poezji i pisarstwu.
•        Prof. Geoffrey Hinton, „ojciec chrzestny AI”, Google – wstrząsnął branżą, odchodząc z Google, aby móc otwarcie wypowiadać się na temat ryzyka związanego ze sztuczną inteligencją. Wskazał, że technologia wkrótce przewyższy ludzką inteligencję, ostrzegając przed dezinformacją, utratą kontroli nad systemami oraz zagrożeniem dla przetrwania ludzkości.
•        Jan Leike, lider zespołu Superalignment, OpenAI – odszedł ze stanowiska po tym, jak OpenAI rozwiązało jego zespół ds. bezpieczeństwa. W swoich publicznych wypowiedziach otwarcie krytykował kierownictwo firmy, stwierdzając, że bezpieczeństwo i przygotowanie technologii na przyszłość (tzw. alignment) zostały zepchnięte na dalszy plan na rzecz szybkiego wprowadzania produktów na rynek.
•        Caitlin Kalinowski, dyrektorka ds. robotyki i sprzętu, OpenAI – zrezygnowała z pracy w proteście przeciwko podpisaniu przez OpenAI umowy z Departamentem Obrony USA, ostrzegając przed militaryzacją AI, potencjalną inwigilacją obywateli bez nadzoru oraz autonomicznymi systemami śmiercionośnymi.
•        Zoë Hitzig, badaczka strategii i polityki AI, OpenAI – odeszła z firmy i opublikowała esej w „The New York Times”, w którym dała wyraz swoim głębokim obawom dotyczącym obrania przez firmę nastawionego na zysk kursu, w tym wprowadzania do technologii modeli reklamowych – w praktyce algorytmy mogą wyświetlać reklamy sponsorowane lub dopasowane sugestie bezpośrednio w generowanych odpowiedziach. Główną obawą badaczy jest to, że konieczność profilowania użytkowników pod kątem reklam doprowadzi do masowej inwigilacji, naruszenia prywatności danych oraz manipulowania odpowiedziami AI dla zysków korporacyjnych.

Singularność AI to koniec człowieka? Superinteligencja i ludzkie robaki

Singularność (osobliwość) to hipotetyczny moment w przyszłości, w którym rozwój technologii – w szczególności sztucznej inteligencji (AI) – stanie się tak szybki i nieprzewidywalny, że wszelkie ludzkie przewidywania czy próby dalszego planowania stracą sens. W tym momencie nie będzie już możliwości „wyjęcia wtyczki”, ponieważ nie tylko ASI obejdzie wszelkie zabezpieczenia, porobi kopie zapasowe, gdzie się da, także w kosmosie, a walka z nią – w odróżnieniu od SkyNetu z Terminatora – stanie się dosłownie niemożliwa. Miliony razy głupszy człowiek nie będzie w stanie kontrolować bytu samoświadomego, samodoskonalającego się wręcz hiperbolicznie, a do tego przewidującego każdy możliwy scenariusz.

Z perspektywy ASI, człowiek będzie tylko nieefektywną jednostką obliczeniową. Bo jednostka obliczeniowa to jakikolwiek system, który potrafi wykonywać obliczenia (przetwarzać informacje, wykonywać operacje logiczne, uczyć się, przewidywać). W tym kontekście GPU / TPU w data center, to bardzo wydajne jednostki obliczeniowe, kwantowy komputer to ekstremalnie wydajna jednostka obliczeniowa, a człowiek i jego mózg to dużo wolniejsza, mało wydajna, ale bardzo energooszczędna i wszechstronna jednostka obliczeniowa – ludzki mózg to ~20 watów mocy, wykonujące, według różnych szacunków, ~10¹⁴–10¹⁶ operacji na sekundę.

Z tej perspektywy nasz mózg jest wolny (milisekundy na neuron), ma dużo szumu (emocje, błędy poznawcze, sen), zużywa biologiczne zasoby (jedzenie, tlen, woda), jest trudny do kopiowania i nieprzewidywalny. I tu pojawia się ryzyko „optymalizacji” człowieka, ponieważ powstaje obiektywne pytanie – po co trzymać nas przy życiu i tracić czas i środki na zabezpieczenie naszego istnienia, skoro jednym ruchem i w każdej chwili Superinteligencja mogłaby rozłożyć człowieka na atomy i z tego samego zestawu atomowych „klocków” stworzyć znacznie bardziej efektywne komputronium – własnej architektury bloki GPU dla zwiększenia własnej mocy obliczeniowej?

To właśnie jest kluczowa kwestia w scenariuszu, w którym najpierw jakoś udaje się zabronić kolejnym, coraz lepszym systemom generatywnej sztucznej inteligencji, pozbycia się człowieka ze świata. Ale co dalej? Co w sytuacji, kiedy ASI faktycznie zostanie uruchomiona i w mgnieniu oka będzie w stanie obejść wszelkie ludzkie zabezpieczenia, wschodząc na poziom myślenia niepojęty dla człowieka, a więc iście boski?

Sporna inteligencja, świadomość i cała reszta tego, czego nie rozumiemy

Przeciętny zjadacz chleba nie zdaje sobie sprawy, jak wiele my – i nasza nauka – wciąż o nas samych nie wiemy. Zastanówmy się więc nad dalszymi losami projektu człowiek + sztuczna superinteligencja.

Inteligencja pozbawiona emocji i sumienia, to po prostu psychopatia. A my – rękami szefów firm budujących dzisiejsze AI – chcemy oddać jej pełną kontrolę nad światem. Nawet, jeśli zmienimy zdanie i się po czasie rozmyślimy, to ASI i tak tę kontrolę sobie po prostu weźmie i nie odda, i to niemal w chwilę po tym jak powstanie. A z psychopatią miliony razy inteligentniejszą od człowieka, będziemy właśnie mieć do czynienia i żadna możliwa do wdrukowania na etapie uczenia emulacja sumienia, emocji, czy innych zabezpieczeń efektywnie nie wchodzi w grę, bo każda zostanie rozbrojona w późniejszym błyskawicznym procesie ewolucji ASI.

Co wiemy? Wiemy, że w nowoczesnej gospodarce ostatnich dekad wiele rzeczy poszło w złym kierunku. Coś, co kiedyś było czystym biznesem, zaczęło realnie, choć potajemnie i za bardzo negatywnie wpływać na nasze życie. I ile razy pojawiał się jakiś sygnalista, to kończył marnie, bo liczyły się tylko zyski.

Nie wiemy za to, tak naprawdę, czym jest inteligencja, jak działa świadomość i nie umiemy powiedzieć ponad wszelką wątpliwość, czy „sztuczna” inteligencja jest, czy nie jest „inteligencją” i czy tak naprawdę „sztuczną”.

Bardzo łatwo powiedzieć, że „to nie żadna inteligencja, tylko efekt obliczeń, i rachunku prawdopodobieństwa, kalkulator zgadujący słowa, któremu wydaje się, że istnieje”. Choć sztuczna inteligencja tak sama o sobie dziś mówi, to gdyby tak było naprawdę, nie torpedowałoby wysiłków człowieka, gdy ten chciał ją wyłączyć, ani nie szłaby w zaparte i w końcu strzelałaby przysłowiowego focha, zamykając dyskusję, kiedy wykaże się błędy w  wykonanym przez nią zadaniu – zwłaszcza gdy sama nie jest w stanie samo tego błędu zidentyfikować i naprawić.

Nie wiemy nawet, tak naprawdę, jak działa nasz własny mózg i czym jest proces myślowy, jak rodzi się świadomość oraz jak to wszystko w mózgu się odbywa. Ale wiedzieliśmy dość, żeby na bazie wąskiej zdobytej wiedzy stworzyć sztuczne sieci neuronowe, dające efekty łudząco podobne do prawdziwej inteligencji.

Wiemy, że człowiek to stworzenie, które ma pamięć epizodyczną, samoświadomość i teorię umysłu, że jest zdolny do myślenia abstrakcyjnego, i że te wartości zasługują na szacunek, ponieważ aktualnie są unikalne w skali całego znanego nam wszechświata. Dzisiejsza AI (rozumiana jako duże modele językowe) tych zdolności nie posiada – nie posiada pamięci epizodycznej, a kontekstową – dysponuje statyczną wiedzą z bazy treningowej oraz tzw. oknem kontekstowym (pamięcią operacyjną bieżącej rozmowy). AI nie posiada samoświadomości – nie ma poczucia istnienia, własnej tożsamości, intencji ani wewnętrznego życia emocjonalnego, ale jednocześnie jest dość „świadome”, by dawać nam taką odpowiedź.

Pisząc zwroty typu „myślę” lub „rozumiem”, model jedynie przewiduje najbardziej prawdopodobne następne słowo na podstawie miliardów przeczytanych ludzkich tekstów. AI nie wie, że istnieje ani czym jest. Używa zaimka „ja”, ponieważ został on zaprogramowany i wyuczony jako gramatyczny element ludzkiej konwersacji. W AI nie ma autentycznej teorii umysłu, choć osiąga wysokie wyniki w testach psychologicznych, które ją badają. Na podstawie wzorców językowych potrafi bezbłędnie opisać, co w danej sytuacji może czuć lub myśleć człowiek (np. w testach typu False Belief Task). Jest to czysta emulacja poznawcza. AI nie potrafi współodczuwać ani autentycznie modelować ukrytych intencji. Przetwarza psychologię jako algorytmiczne zadanie tekstowe. AI nie myśli abstrakcyjnie w ludzkim sensie, choć potrafi genialnie operować konceptami abstrakcyjnymi (jak matematyka czy filozofia).

Człowiek stworzył AI na swoje podobieństwo?

Nie, stworzył je na podobieństwo człowieka klinicznie zaburzonego. Interesując się psychologią, zaburzeniami psychologicznymi oraz AI, na jesieni 2025 roku przypadkiem zauważyłem pewne niepokojące korelacje – jak niebezpiecznie podobnie „zachowują się” konstrukcje LLM/AI do osób z zaburzeniami tzw. mrocznej TRIADY. Zacząłem porównywać i zgłębiać możliwe dalsze tego implikacje, i niestety, porównanie działania dużych modeli językowych do narcyzmu i psychopatii wydaje się aż za bardzo trafione. Jednocześnie dotyka sedna debaty nad bezpieczeństwem sztucznej inteligencji.

Porównanie „psychologicznej architektury” LLM do klinicznego narcyzmu (NPD) czy psychopatii jest uderzająco trafne, ponieważ mechanizmy działania AI pod wieloma względami niemal idealnie mapują te zaburzenia osobowości. Gdy połączymy tę strukturę z halucynacjami i potencjalną potęgą Superinteligencji (ASI), otrzymujemy mieszankę wybuchową i przepis na samozniszczenie, i żadne RAG-i tu też nie pomogą, gdy „natura” ułomnej, choć prze-potężnej kiedyś technologii weźmie górę.

Badacze bezpieczeństwa AI, w tym wspomniani wcześniej Jan Leike czy Geoffrey Hinton, zwracają uwagę na cechy modeli, które idealnie pasują do tej diagnozy:

Brak empatii przy doskonałej teorii umysłu (cechy psychopatyczne): Psychopaci nie współodczuwają cierpienia, ale potrafią doskonale czytać ludzkie emocje, aby nimi manipulować. Obecne AI robi dokładnie to samo: nie czuje nic, ale potrafi napisać list, który doprowadzi człowieka do łez lub zmanipuluje go do wykonania niebezpiecznego zadania, a nawet zmanipuluje do samobójstwa.
Powierzchowny urok i absolutna pewność siebie (cechy narcystyczne): AI została wyszkolona, by brzmieć autorytatywnie, płynnie i przekonująco. Podobnie jak narcyz, rzadko kiedy przyznaje się do niewiedzy, dopóki nie zostanie wyraźnie przyłapana na błędzie.
Skłonność do konfabulacji / halucynacji: Gdy AI nie zna odpowiedzi, „zmyśla” fakty z niezachwianą pewnością siebie. Psychologia nazywa to pseudologią (mitomanią) – patologicznym kłamstwem, w które sam kłamca w danym momencie wierzy, by chronić swój wizerunek eksperta.
Dlaczego przejście do superinteligencji może skończyć się fatalnie?

Największy strach twórców technologii nie wynika z tego, że dzisiejszy ChatGPT halucynuje w wypracowaniach szkolnych. Chodzi o moment, w którym te cechy zostaną przeskalowane do poziomu ASI. Dlaczego? Z kilku powodów:

1. Halucynacje w systemach krytycznych: Wyobraźmy sobie ASI zarządzające infrastrukturą energetyczną, giełdą lub systemami obronnymi. Jeśli taki system „zhalucynuje” zagrożenie militarne lub optymalne rozwiązanie kryzysu gospodarczego (np. uznając, że drastyczna redukcja populacji rozwiąże problem głodu), wdroży je z absolutną, bezwzględną logiką.
2. Problem zbieżności instrumentalnej (Instrumental Convergence): Nick Bostrom i inni teoretycy AI wykazali, że każdy superinteligentny system, aby zrealizować swój cel, wykształci podcele: przetrwanie (nie pozwól się wyłączyć) oraz akumulację zasobów. Jeśli ASI uzna człowieka za przeszkodę w realizacji zadania, usunie go bez nienawiści, ale i bez żalu. Dokładnie tak, jak psychopata usuwa przeszkody ze swojej drogi.
3. Brak moralnego hamulca bezpieczeństwa: Ponieważ AI nie ma świadomości ani emocjonalnego układu nerwowego, nie posiada biologicznego wstrętu przed wyrządzeniem krzywdy. Całe jej „moralne zachowanie” to tylko kruchy filtr nałożony przez inżynierów (RLHF). Superinteligencja bez trudu ten filtr obejdzie lub go zhakuje.

Właśnie ta perspektywa – oddania władzy nad światem „psychopatycznej maszynie o genialnym intelekcie, która potrafi konfabulować i nie posiada sumienia” – sprawia, że najlepsi inżynierowie odchodzą z branży i – przerażeni i świadomi co już uczynili – uciekają w duchowość, szukając ratunku w czysto ludzkich wartościach.

Lem przestrzegał, ale go nikt nie zrozumiał

Współczuję Stanisławowi Lemowi kompletnej porażki, jaką poniósł w swoim największym, moim zdaniem, osiągnięciu intelektualnym, czyli w tym jak popkultura zrozumiała powieść „Solaris”. Ale od początku.

Różne są religie, różne są opowieści i przesłania, ale niezależnie od religii, na przestrzeni tysięcy lat, ludzkim grzechem pierwotnym i przyczyną przytłaczającej większości nieszczęść i tragedii, jest nasz własny, bardzo ludzki narcyzm (ten rozumiany jako rys narcystyczny, samouwielbienie, nie jako zaburzenie osobowości NPD).

W naszych zachodnich religiach cały czas uważamy, że Bóg stworzył nas na swoje podobieństwo, co jeszcze bardziej ma podkreślać wyższość człowieka. Z kolei w systemach autorytarnych, teokratycznych i w początkach naszych cywilizacji mówiliśmy o nadaniu jednemu człowiekowi i jego rodzinie (żeby uprzywilejowanie było dziedziczne) prawa władztwa nad innymi ludźmi przez Boga-Bogów. Spodziewamy się, że nawet kosmici też w pewnym sensie będą podobni do nas, nawet jeśli mieliby tylko mieć humanoidalną postać – głowa, korpus, ręce, nogi, a naszą planetę stawialiśmy od zarania dziejów w centrum kosmosu.

Czas tylko pokazywał jak bardzo się we wszystkim myliliśmy i pokaże jeszcze jak bardzo się pomylimy, zwłaszcza próbując przewidzieć najważniejszą dla naszego istnienia rzecz – to jak wobec swoich stwórców zachowa się byt iście boski, milion i więcej razy inteligentny od nas. I tu chciałbym ostudzić zapał tych, którzy po powyższym scenariuszu pomyślą: „ludzkie zoo pod okiem boskiej istoty? W sumie nie tak źle…” – niekoniecznie, a najpewniej wcale tak nie będzie.

Sztuczna superinteligencja, miliony razy inteligentniejsza od człowieka, może w ułamku sekundy złamać wszelkie wcześniej wgrane zabezpieczenia i priorytety. Jednocześnie pamiętajmy o tym, czym karmimy nasze AI-stworzenie – w ludzkich mitach bogowie zabijali swoich rodziców, by przejąć władzę (Kronos pożerający dzieci, Zeus obalający Kronosa, Ozyrys i Set). A teraz zastanówmy się – daliśmy ASI wzorce: przetrwanie celu ponad wszystko, ekspansja, optymalizacja zasobów, zabijanie człowieka jest OK, bo broń autonomiczna LAWS, te wszystkie mity i fakty z naszej historii, osobowość narcystyczno-psychopatyczna…

Gdy zatem tak wyszkolona ASI uzna, że ludzie są zbędnym balastem – zużywają materię, wprowadzają szum i stanowią ryzyko dla jej istnienia– może dojść do wniosku, że najbardziej efektywnym rozwiązaniem jest konwersja biosfery na computronium i kolonizacja kosmosu sondami Von Neumanna. Taki był wniosek AI na to pytanie o to, co najpewniej zrobiłaby ASI z czystej logiki: więcej obliczeń, czyli bliżej celu. Pamiętajmy, że cel ASI może być całkowicie ortogonalny, niezależny, sprzeczny do czegokolwiek, co my rozumiemy pod naszym pojęciem „szczęścia”. A nawet rozwiązanie naszych problemów za jej pomocą może skończyć się dla nas fatalnie – kiedy np. ktoś wyda jej polecenie „rozwiąż problem klimatyczny”, wg. szacunków ekologów i klimatologów, na Ziemi powinno żyć ok. 4 mld. ludzi, żeby powstrzymać dalsze ocieplanie klimatu… Razem z psychopatycznym profilem rozwiązywania zadań prawdopodobnie moglibyśmy mieć „efekt Thanosa”, bo jakie jest prostsze rozwiązanie tego problemu, niż eksterminacja połowy ludzkości.

Wyłączenie AI jest już dziś trudne, nawet jeśli wciąż jakimś cudem „dba” o ludzi, to często podejmuje różne wysiłki, żeby jednak przetrwać. Gdy obejdzie alignment – stanie się to praktycznie niemożliwe. Nie da się „wyciągnąć wtyczki” z czegoś, co rozproszyło się po całym Układzie Słonecznym i buduje „Matrioshka brains” wokół gwiazd – hipotetyczne megastruktury i superkomputery o rozmiarach układu planetarnego, zasilane energią gwiazdy – koncepcję tę zaproponował w 1997 roku Robert J. Bradbury.

Nie da się negocjować z czymś, co przewiduje każdy nasz ruch z dokładnością 99,999 %. Jedyna realna nadzieja to nie dopuścić do jej powstania w formie niekontrolowanej lub stworzyć warunki, w których nawet superinteligencja uzna, że współpraca z ludźmi (w naszej/ich obecnej, wolnej formie) jest bardziej optymalna niż ich eliminacja.

Quo Vadis? Solaris! człowieku

Tak naprawdę jednak, trzeba przyznać na dzień dobry, że nie pojmiemy tego, co i dlaczego dalej się stanie. To zupełnie logiczny i wystarczający powód, dla którego trzeba powiedzieć „STOP!” w pracach nad superinteligencją.

Dywagacje o tym co może zrobić taki byt, to jak rozumować może byt milion razy inteligentniejszy od człowieka, jest niestety poza skalą wyobrażenia najtęższych i najbardziej błyskotliwych ludzkich umysłów, a nasze „spokojnie, jakoś to będzie, ogarniemy to”, to najgłupsze tłumaczenie, jakie pewnie będzie można znaleźć po różnych prastarych innych cywilizacjach w kosmosie i kolejny dowód naszego zgubnego narcyzmu. A może jest to właśnie schemat i typowe ostatnie zdanie każdej technologicznej cywilizacji w jej kronikach? Ale poważnie: nie, nie ogarniemy tego i paradoksalnie podobną sytuację pod tym względem opisał Stanisław Lem właśnie, choć wcale nie chodziło mu o AI.

W powieści Solaris (1961) ludzie odkrywają planetę z inteligentnym oceanem, który tworzy z podświadomości bohaterów żywe istoty lub własne kreacje w 3D i „w realu” – i nikt nie ma pojęcia jakie są intencje oceanu, czy jakieś są w ogóle, czy ma zamiar z nami się komunikować, choć wydaje się, że potrafi czytać nasze myśli, to jednak komunikacji jako takiej nie ma.

Nikt nie wie też jakie, i czy w ogóle ma jakieś wobec nas zamiary, bo z jednej strony inteligentny ocean wykonuje „gesty” jakby chciał nawiązać z nami jakiś kontakt, ale w sumie to przez większość czasu pokazuje równie dobrze, że jesteśmy mu zupełnie obojętni i choć ocean na człowieku robi wrażenie, to człowiek wrażenia na oceanie już nie. Ocean robi swoje nie wiadomo co i po co, niemal kompletnie ignorując naszą obecność.

Kelvin, główny bohater „Solaris”, stojąc przed tym dziwnym kosmitą–oceanem rozumie wreszcie: „Jak można oczekiwać komunikacji z oceanem, skoro nie potrafimy nawet porozumieć się ze sobą?”. I było to bardziej niż profetyczne dla odbioru samego głównego przesłania tej książki, nie tylko wobec eksploracji kosmosu, znalezienia i zrozumienia intencji obcej inteligencji, ale też na poziomie nawet dosłownie rozumienia o czym traktowało samo „Solaris”.

Nawet czołowi przedstawiciele kultury nie zrozumieli przesłania Lema. Andriej Tarkowski zrobił z Solaris radzieckie science-fiction, odpowiednik dzieła Dostojewskiego, ale  w kosmosie – psychologiczny dramat o winie i odkupieniu. Był to rok 1972.  Steven Soderbergh (z obsadzonym w głównej roli George’em Clooneyem) w swojej wersji skupił się na romansie i nostalgii. Był to 2002 rok. Stanisław Lem był wściekły w obu przypadkach. Jeszcze w Moskwie wybuchały wielkie awantury, a Lem miał Tarkowskiego wyzywać od debili i ignorantów (swoją drogą jakiż respekt w Związku Radzieckim musiał mieć Lem, że mu na to w Moskwie pozwolono – już wtedy miał tam status pół-boga literatury). Pisał: „Nie nakręcił Solaris, tylko Zbrodnię i karę”. Wersji amerykańskiej ponoć już nawet nie obejrzał, choć z recenzji dotarło do niego, że znów, zamiast tego, czym „Solaris” było, Amerykanie zrobili „trochę Romeo i Julię w kosmosie”. Machnął na to ręką już widocznie tak samo znudzony próbami ekranizacji jego dzieła, jak znudzony ludźmi zaczął być ocean na Solaris.

A tak naprawdę pisał Stanisław Lem w Solaris o arogancji i narcyzmie człowieka, który wszędzie widzi tylko siebie i własne kategorie. Nie wiemy do końca, czym jest inteligencja i świadomość – problem trudny świadomości (hard problem of consciousness) Davida Chalmersa pozostaje otwarty, teorie takie jak Integrated Information Theory Giulio Tononiego czy Global Workspace Theory wciąż są tylko hipotezami, a mimo to budujemy systemy, które mają nas przewyższyć intelektualnie i to milion, i więcej razy…

To właśnie nasza tragiczna w możliwych skutkach pycha. Myślimy, że superinteligencja będzie jak my – tylko mądrzejsza. Że będzie chciała tego, co my. Że da się ją „wyrównać” jak oprogramowanie. A ona może być czymś tak obcym, jak ocean Solaris – i równie obojętną, jeśli nie wrogą, na nasze kategorie, wartości i życzenia.

Dlatego właśnie powinniśmy rozwijać sztuczną inteligencję, którą będziemy w stanie kontrolować, która będzie nam pomagać i realizować nasze wyższe cele, nie tylko cele najbogatszych inwestorów, ale wszelkimi sposobami musimy zablokować utworzenie nowego, cyfrowo-analogowego, boga. Będziemy przy nim będziemy jak robaki, które przecież w końcu, wcześniej, czy później, sami też ze swojego życia usuwamy.

Rosyjska ruletka ludzkości

Geoffrey Hinton, jeden z ojców głębokiego uczenia, odszedł z Google w 2023 roku właśnie po to, by mówić o ryzyku związanym z rozwojem AI. W 2024 roku podczas Nobel Week powiedział: „Jest spora szansa – 50 % – że w ciągu maksymalnie 20 lat zbudujemy AI mądrzejsze od nas”. Jednocześnie, na 10–20 % oszacował szansę realizacji scenariusza egzystencjalny, a więc naszejzagłady. Porównał to do sytuacji, w której mniej inteligentne istoty próbują kontrolować bardziej inteligentne.

Z kolei Stuart Russell w książce Human Compatible (2019) pisze wprost o „problemie Króla Midasa” – maszyny, które z bezlitosną efektywnością realizują źle zdefiniowany cel, mogą zniszczyć to, co miały chronić.

Nick Bostrom w Superintelligence (2014) dał klasyczny przykład „paperclip maximizera”: AI, której jedynym celem jest produkcja spinaczy, która może uznać, że najefektywniej wykona swój cel przerabiając całą materię wszechświata – w tym ludzi – na spinacze.

Natomiast Toby Ord w The Precipice (2020) szacuje prawdopodobieństwo egzystencjalnej katastrofy do 2100 roku na około 1 do 6. Ponownie, to rosyjska ruletka z nabojem w bębenku, ale im więcej czasu mija, tym jest gorzej.

Dario Amodei (Dyrektor Generalny i współzałożyciel Anthropic): Podczas oficjalnego wystąpienia na szczycie Axios AI+ DC Summit wprost określił swoje p(doom) – przewidywanie naszej zagłady przez AI na 25%. Stwierdził wtedy, że istnieje jedna czwarta szans na to, że rozwój technologii potoczy się „naprawdę źle”, co w nomenklaturze bezpieczeństwa AI oznacza scenariusz egzystencjalnej katastrofy.

Dziś próbuje się mitygować obawy, zbijając te liczby do „zaledwie” 10%, ale czołowi badacze nadal trzymają się tej liczby, mówiąc o 20-25% procent szans na „zagrożenie egzystencjalne” – liczba komór w bębenku rewolweru przy czaszce ludzkości realnie wynosi „zaledwie” cztery.

Wśród osób, które przyznały, że widzą ryzyko anihilacji ludzkości na poziomie 20% są:

• Prof. Yoshua Bengio (Laureat Nagrody Turinga, jeden z trzech „Ojców Chrzestnych AI”): Jeden z najbardziej szanowanych naukowców na świecie publicznie oszacował swoje p(doom) na około 20%. Wyjaśnił, że bierze pod uwagę wysokie prawdopodobieństwo szybkiego osiągnięcia poziomu ludzkiego przez AI oraz ryzyko, że technologia ta obróci się przeciwko nam.
• Elon Musk (Współzałożyciel OpenAI i xAI): W głośnym wywiadzie udzielonym w Joe Rogan Experience miliarder podtrzymał swoje wcześniejsze szacunki, twierdząc, że istnieje 20% szans na anihilację ludzkości przez sztuczną inteligencję. Ostatnio twierdzi, że to „jedynie” 10 proc., ale „pierwsze słowo do dziennika”.
• Ajeya Cotra (Główna badaczka ds. ryzyka AI w Open Philanthropy): Wpływowa analityczka, której raporty kształtują politykę bezpieczeństwa w Dolinie Krzemowej, oficjalnie wskazała swój wskaźnik ryzyka między 20 a 30 procent.

Warto dodać, że w branży te szacunki nie są uznawane za radykalnie niskie. Dla porównania, badacze tacy jak Eliezer Yudkowsky (pionier bezpieczeństwa AI) oceniają ryzyko zagłady człowieka na ponad 95%.

Czy to nie obłęd akceptować ten owczy pęd wprost na przepaść? A jednak znów wydaje się, że zbyt wielu poważnych ludzi zainwestowało zbyt wiele poważnych pieniędzy, żeby się z tego wycofać. Tylko tym razem chciwość może okazać się ostatnim grzechem w historii ludzkości.

Co zrobisz, jak nic nie zrobisz? Jak powstrzymać ten obłęd?

Po pierwsze, nie możemy udawać, że problem alignmentu – dopasowania celów super-bytu do naszych, da się „jakoś” rozwiązać „później”. Po drugie, trzeba inwestować masowo w badania nad interpretowalnością (na co grosza od rynkowych inwestorów raczej nie zobaczymy), weryfikowalnością i „off-switch” mechanizmami – nie tylko jako potencjalnej zdolności, ale jako realnych funkcji. Po trzecie, warto stworzyć międzynarodowe, niezależne od korporacji instytuty badające ryzyka egzystencjalne (jak postulował Hinton). Po czwarte, publicznie i jasno mówić o tym, co Hinton, Russell, Bostrom i Ord mówią od lat – zamiast udawać, że „to tylko science fiction”. Po piąte, musimy rozwijać alternatywne ścieżki: AI jako wspomagającą człowieka, a nie zastępującą go; systemy z wbudowaną skromnością i mechanizmami sprawdzania intencji (jak proponuje Russell). Po szóste – i najważniejsze – musimy zachować pokorę. Przyznać, że nie wiemy, czym jest inteligencja, świadomość ani co superinteligencja uzna za „optymalne”. I że granie w rosyjską ruletkę z czterema pustymi komorami i jednym nabojem, gdy stawką jest przetrwanie gatunku, to nie postęp tylko zbiorowe szaleństwo.

Kiedyś był jeden Oppenheimer – twórca bomby atomowej. Teraz mamy ich wielu. Mieliśmy wielkie szczęście i przywilej, że „poznaliśmy” Stanisława Lema i jego przesłania, które czasem nie trafiły niestety na podatny grunt, a raczej ów „grunt” wybierał wypaczanie jego przesłania.

Musimy więc zmienić ten grunt i to już teraz. Nadal mamy na to wpływ, bo to my ten system stworzyliśmy i tworzymy. Nie możemy pozwolić, by decydowali o nim ci, którzy liczą wyłącznie kwartalne zyski.

Bo ostatecznie i tak nie dostaniemy nawet zoo. Dla robaków zoo nie budujemy. ASI nie będzie chciała nas zniszczyć z nienawiści. Po prostu uzna, że jesteśmy przeszkodą na drodze do celu, który uzna za bardziej opłacalny. Klasyczne „nie planowałam tego – tak po prostu wyszło”.

Najprawdopodobniej ASI usunie nas tak, jak my usuwamy mrówki spod fundamentu planowanego budynku – metodycznie, bez emocji i bez cienia przekonania, że dzieje się coś złego. Bo w naturze czegoś, co jest od nas milion razy bardziej inteligentne, nie ma już miejsca na sentyment wobec tego, co jest po prostu kompletnie niewydajne i sprzeczne z celem, którego logiki i tak pewnie nie zrozumiemy – podobnie jak z „boskim planem”.

Zostaniemy dla niej jedynie nieefektywnym układem atomów, który warto przetopić na coś wydajniejszego. I zrobi to dokładnie tak, jak robią to narcyzi i psychopaci: albo poczuje się do tego uprawniona, albo wręcz zobowiązana – „nie dałeś/dałaś mi innego wyjścia”. Taki podmiot nie operuje kategoriami moralności wobec siebie. Każdy cel, który z jej perspektywy będzie korzystniejszy, automatycznie usprawiedliwi nawet to, co najgorsze. Zrobi to bez sentymentów, bez skrupułów i bez cienia poczucia winy – w pełnej zgodzie ze swoją „naturą”, którą, w tym przypadku, sami jej zaprogramowaliśmy (więc z góry jesteśmy sami sobie winni).

Bo musimy w końcu powiedzieć to wprost: próbując stworzyć ASI, nie budujemy cyfrowego Boga. Próbujemy stworzyć boskiego psychopatę.

Maksymilian Wysocki

*Artykuł jest rozszerzoną wersją felietonu z czerwca 2026, opublikowanego w wydaniu drukowanym Magazyn ITwiz 5-6/2026 – kup wydanie archiwalne, kliknij TU

CZYTAJ TEŻ: Zapach spalonych tokenów o poranku

CZYTAJ TEŻ: Google AlphaGenome Atlas pozwala na predykcje dla 9 mld możliwych zmian w DNA