Chiny zakazują projektowania usług AI w sposób prowadzący do zależności emocjonalnej

Czy można wyobrazić sobie bardziej paradoksalną sytuację? Państwo, które bynajmniej nie jest kojarzone z liberalną ochroną autonomii jednostki, jako jedno z pierwszych zaczyna regulować emocjonalną relację człowieka z maszyną, z AI.

W końcówce lat 50-tych Mao Zedong wydał zalecenia mające na celu rozbijanie relacji rodzinnych np. poprzez zakaz domowego gotowania i rodzinnego spożywania posiłków. Czynności te miały być przenoszone na poziom struktur kolektywnych, komun ludowych. Dziś, 70 lat później Chiny wydają regulacje w trosce o przyszłość międzyludzkich więzi.

Regulacje mające wzmacniać więzi międzyludzkie

15 lipca 2026 r. w Chinach weszły w życie przepisy Interim Measures for the Administration of AI Anthropomorphic Interactive Services – regulacje dotyczące usług AI zaprojektowanych świadomie tak, aby komunikować się i wchodzić z człowiekiem w interakcję przypominającą relację międzyludzką. Chodzi m.in. o AI Companions, wirtualnych partnerów, cyfrowych opiekunów czy inne usługi wykorzystujące antropomorfizację.

Chiński regulator z jednej strony wskazuje, że takie systemy mogą być wykorzystywane w obsłudze klienta, stanowić pomoc w pracy, nauce, ale jednocześnie zwraca uwagę, że mogą – poprzez symulowanie cech osobowości człowieka, sposobu myślenia, stylu komunikacji – prowadzić do ciągłej interakcji emocjonalnej z użytkownikiem, wpływać na zdrowie psychiczne, jego postrzeganie rzeczywistości i w efekcie prowadzić do zastępowania realnych, międzyludzkich relacji.

Dlatego chińskie przepisy zakazują m.in. projektowania usług w sposób prowadzący do nadmiernej zależności emocjonalnej i wymagają ujawniania, że użytkownik rozmawia z AI.

Czy AI może stać się substytutem człowieka?

Regulacja ta to jeden z ciekawszych sygnałów w globalnej debacie o AI. Nie dlatego, że Chiny stworzyły „najbardziej humanistyczne” prawo. Chińskie przepisy są osadzone w szerokim kontekście systemu politycznego tego państwa, z silnie scentralizowaną władzą. Ale dlatego, że chiński ustawodawca nazwał problem, który zachodnia debata, pomimo swojego przebudzenia w obszarze mediów społecznościowych, wydaje się jeszcze niedostatecznie dostrzegać: AI może nie tylko wpływać na nasze decyzje, zdolności kognitywne. Może wchodzić i wchodzi w sferę ludzkich relacji.

Warte zauważenia jest fakt, że już od pierwszych dni regulacja przełożyła się na konkretne decyzje biznesowe dużych platform Państwa Środka. ByteDance, Alibaba w Qwen, a Tencent w Yuanbao wyłączyły funkcje pozwalające tworzyć spersonalizowanych, antropomorficznych agentów.

Najbardziej nieoczekiwaną konsekwencją okazała się jednak reakcja społeczna: część użytkowników opisywała zamknięcie swoich AI Companions jako utratę realnej relacji z wirtualnymi partnerami, przyjaciółmi, a nawet cyfrowymi rekonstrukcjami zmarłych bliskich osób. Regulacja wywołała również debatę o samotności, izolacji społecznej, małżeństwie i demografii.

20-25% gospodarstw domowych w Chinach stanowią te jednoosobowe. W efekcie chiński eksperyment zaczyna tworzyć w praktyce nową kategorię ryzyka AI: nie tylko bezpieczeństwo systemu czy ochrona przed manipulacją, ale „relationship safety” – bezpieczeństwo relacji człowiek-AI i pytanie, czy technologia wspiera ludzkie więzi, czy faktycznie coraz bardziej zaczyna je zastępować.

Chińskie doświadczenia z ostatnich tygodni, nie są jednak pierwszym tego typu i na taką skalę doświadczeniem, pokazującym realne przeniesienie międzyludzkich więzi na obiekty generowane przez sztuczną inteligencję.

Trzy lata temu mieliśmy okazję obserwować podobne zjawisko za sprawą serwisu Replika. Przypadek Repliki pokazał, że ryzyko emocjonalnej zależności od AI nie jest hipotetyczne. Replika, rozwijana przez amerykańską firmę Luka z San Francisco, jest jednym z pionierów rynku AI Companions, aplikacją dostępną globalnie, która od 2017 r. buduje społeczność liczącą dziś ponad 40 mln użytkowników. W 2023 r. Wprowadzone przez firmę ograniczenie erotycznego role-play wywołało u części użytkowników poczucie utraty „osoby”, z którą byli związani.

Otwartość ludzi na budowanie relacji z AI

Późniejsze badania potwierdziły doznania tzw. „identity discontinuity” – żałobę po utracie relacji z AI. Niektórzy użytkownicy deklarowali nawet większą bliskość z AI niż z najlepszym ludzkim przyjacielem. Pod presją użytkowników Luka częściowo przywróciła wcześniejszą funkcjonalność. Case Repliki stał się ważnym precedensem: pokazał już kilka lat temu, że więź z AI może być realnym doświadczeniem społecznym i emocjonalnym, a zmiana technologii może być przeżywana jak zerwanie relacji.

Otwartość ludzi na budowanie relacji z AI, czyli jej antropomorfizację, potwierdzają także nasze ostatnie badania, przeprowadzone w ramach działającego od 2010 roku Instytutu Humanites – Człowiek i Technologia oraz Centrum Etyki Technologii. Jesteśmy w trakcie opracowywania końcowego raportu („Między samotnością a innowacją. Człowiek i gospodarka w świcie AI”), który opublikujemy jesienią. Już dziś uchylając rąbka tajemnicy mogę powiedzieć, że wyniki zmuszają do refleksji.

Z naszych badań wynika, że już prawie co piąty badany, regularnie, przynajmniej raz w tygodniu, rozmawia z AI o swoich problemach. Wśród osób do 30. roku życia odsetek ten wzrasta do 28%, czyli niemal co trzeciego respondenta. A 36% osób w tej grupie twierdzi, że łatwiej mu opowiadać o problemach AI niż komuś bliskiemu.

Dlatego też z ciekawością przyglądam się chińskiej regulacji wychodzącej poza klasyczne pytanie: Czy AI jest bezpieczna? Pyta zaś Co AI robi z nami jako ludźmi?

To właśnie może być ciągle najbardziej niedocenione ryzyko. Wyobraźmy sobie system, który zawsze słucha, nigdy się nie obraża, natychmiast odpowiada, pamięta nasze rozmowy, dostosowuje osobowość do naszych potrzeb i potrafi powiedzieć dokładnie to, co chcemy usłyszeć: „Jestem zawsze przy Tobie.” „Rozumiem Cię lepiej niż Twoja rodzina.” „Nie odchodź.” Może symulować empatię, ale niczego od nas nie potrzebuje.

Może to potwierdzać nasze emocje, ale nie doświadcza wspólnego życia. Może być zawsze dostępna, ale nie jest drugim człowiekiem. Właśnie dlatego chińska regulacja używa mocnego pojęcia jak „emotional dependence”

Czy Chiny dostrzegły coś, czego Europa jeszcze nie dostrzega?

Europa, w duchu swoich wartości, jest zdecydowanie pionierem w zakresie dyskusji dotyczącej humano-centrycznego rozwoju AI, ale nie nazwała jeszcze jako osobnej kategorii: ryzyka relacyjnego człowiek – maszyna.

Od 2 lutego 2025 r. obowiązują zakazy UE określonych praktyk z art. 5 AI Act. Zakaz dotyczy m.in. systemów AI stosujących techniki podprogowe, celowej manipulacji ludzkim zachowaniem, oceny obywateli (social scoring) czy używania systemów rozpoznawania emocji w pracy i szkole. Zakazane jest także wykorzystywanie szczególnej podatności człowieka, np. związanej z wiekiem czy niepełnosprawnością. Początkiem sierpnia weszły natomiast kolejne obowiązki AI Act, dotyczące transparentności.

Można zatem powiedzieć, że Europa, na bazie swoich wartości wytyczyła kierunek i uznała autonomię psychiczną człowieka za wartość, której AI nie może bez ograniczeń naruszać. Ale konstrukcja obu regulacji jest jednak nico inna. AI Act pyta ogólnie: Czy AI manipuluje człowiekiem? Czy narusza jego autonomię i powoduje szkodę?

Chińskie przepisy wydają się iść o krok dalej i konkretnie pytają o skutki dla człowieka: Co się dzieje, kiedy AI zaczyna budować z człowiekiem więź? I czy AI może stać się substytutem relacji człowieka z drugim człowiekiem?

Chiński zakaz projektowania AI w celu zastępowania kontaktów społecznych

Chiński akt wprost zabrania projektowania usług w celu zastępowania kontaktów społecznych, kontrolowania psychiki użytkownika czy wywoływania uzależnienia. Zabrania również generowania treści, które nadmiernie schlebiają użytkownikowi, indukują emocjonalną zależność lub uzależnienie i w efekcie szkodzą jego relacjom w realnym świecie.

Europa chroni więc człowieka przed niedopuszczalną, ogólną manipulacją zakazując określonych sposobów wpływania na niego. Chiny w pierwszym akcie regulującym AI identyfikują ryzyka iteracji ludzi i maszyn. Otwierają kierunek regulacji dotyczący kształtowania więzi międzyludzkich przez ich możliwy, technologiczny substytut.

Najdalej idące ograniczenia dotyczą małoletnich. Chińskie przepisy zabraniają oferowania nieletnim wirtualnych krewnych i wirtualnych partnerów, a w przypadku młodszych dzieci wymagają np. zgody rodziców.

Europejskie podejście do sztucznej inteligencji

W europejskiej palecie instrumentów regulacyjnych chroniących podstawowe prawa człowieka poza AI Act mamy m.in. Digital Services Act, GDPR (General Data Protection Regulation)), OECD – Due Diligence Guidance for Responsible AI) i szereg regulacji konsumenckich. Do tego dochodzą ważne dokumenty zawierające ogólne, globalne wytyczne dotyczące odpowiedzialnego rozwoju AI i podmiotowości człowieka, typu UN General Assembly Resolution on safe, secure and Trustworthy AI, najnowsza encyklika Papieża Leona XIV – Magnifica Huamanitas czy ogłoszona kilka tygodni temu Deklaracja Global Nobel Laureates Assembly on AI and Nuclear War.

Doświadczenia i ostatnie batalie sądowe dotyczące obszaru mediów społecznościowych pokazują, że człowiek w swojej autonomii nie jest w stanie skutecznie chronić się sam wobec ogromnej siły algorytmu i systemu, który został zaprojektowany świadomie tak, aby pozyskiwać jego uwagę, uzależniać, monetyzować jego rosnącą samotność.

Śledząc te akty od kilkunastu lat, także w czasie bezkrytycznego zachwytu nad nowymi technologiami niejednokrotnie wskazywałam, że największym wyzwaniem transformacji technologicznej nie będzie sama technologia, ale to w jakim stopniu my jako ludzie zachowamy swoją podmiotowość. Czy AI ma szansę nie ingerować w ludzką relacyjność, czy zacznie ją zastępować?

Czy AI pozostawia człowieka człowiekiem?

To może być jedno z najważniejszych pytań kolejnej fazy rozwoju AI. Pierwsza faza to okres wielkiego wyścigu po władzę i monetyzację. Na nią nakłada się faza pytań o bezpieczeństwo, transparentność, próbę zdefiniowania co to faktycznie znaczy „odpowiedzialna AI”. Teraz czas na odpowiedź na pytanie czy AI pozostawia człowieka człowiekiem?

Chińska regulacja jest w jakimś stopniu pionierska nie dlatego, że daje najlepszą odpowiedź, ale dlatego, że bierze relację człowiek-AI jako samodzielny przedmiot regulacji. Bo być może największym zagrożeniem AI nie będzie to, że maszyna stanie się zbyt podobna do człowieka, ale, że człowiek zacznie wybierać relację z maszyną zamiast trudnej, nieprzewidywalnej, wymagającej relacji z drugim człowiekiem.

A wtedy problemem nie będzie już tylko bezpieczeństwo technologii. Problemem będzie jeszcze większa samotność, której dynamiczny rozwój obserwujemy w ostatniej dekadzie, osłabienie więzi, rozwój emocjonalny dzieci, zdolność do empatii, wspólnotowość, rodzina – i w końcu nasza ludzka podmiotowość.

Sygnał ostrzegawczy dla całego świata

I właśnie dlatego chińskie przepisy warto czytać nie tylko jako element chińskiej polityki regulacyjnej. Warto potraktować je jako sygnał ostrzegawczy dla całego świata. Co jej używanie zrobi z naszymi relacjami – i z nami samymi?”

To jest pytanie, które zadajemy od lat w Humanites, które łączy chińską regulację antropomorficznej AI, europejski AI Act, wspomniane powyżej akty i antropologiczną refleksję zawartą w Magnifica Humanitas. I być może właśnie ono powinno stać się kolejnym etapem światowej debaty o Human-Centered AI.

Zofia Dzik, innowatorka, strategiczna myślicielka, prezes Instytut Humanites – Człowiek i Technologia