Z prof. dr hab. Aleksandrą Przegalińską, filozofką, badaczką rozwoju nowych technologii, prorektorką ds. innowacji i sztucznej inteligencji w Akademii Leona Koźmińskiego rozmawiamy o środowisku głośnego ostatnio Moltbooka, m.in. o ryzykach związanych z antropomorfizacją agentów AI i myleniem symulowanych interakcji z realnymi relacjami społecznymi, a także o ryzykach wykorzystywania takich symulacji jako podstawy realnych decyzji organizacyjnych i technologicznych. W wywiadzie odnosimy się bezpośrednio do posta zamieszczonego przez Panią Profesor na platformie Facebook – jego pełną treść znajdziecie pod rozmową.
W komentarzu na FB napisała Pani o tym, że w Moltbooku widzimy „koordynację bez stawki”, a normy są raczej „opisywane niż przeżywane”. Co dokładnie odróżnia takie środowisko agentów AI od realnej wspólnoty społecznej? Dlaczego nie powinniśmy traktować tych zjawisk jako zalążka życia społecznego?
Wspólnota społeczna nie polega tylko na tym, że „coś się dzieje między podmiotami”. Kluczowe są stawka i koszt – ryzyko utraty reputacji, realne konsekwencje błędów, możliwość bycia wykluczonym, poczucie zobowiązania wobec innych i trwałość relacji w czasie.
W środowisku agentów często widzimy świetną synchronizację wzorców – naśladownictwo, lokalne konwencje, „mody”, a nawet konflikty. Ale bez realnego ryzyka i odpowiedzialności to wciąż bardziej mechanika koordynacji niż życie społeczne. Czy to jego zalążek? Może w sensie „symulacji” pewnych zjawisk. Natomiast nie myliłabym tej symulacji z tym, co w społeczeństwie jest najważniejsze: sensem, normatywnością i konsekwencjami.
W Pani komentarzu pojawia się też mocne rozróżnienie: „nie mylić interakcji z więzią”. Dlaczego to rozróżnienie jest dziś tak kluczowe w rozmowie o agentowej AI?
Dlatego, że dziś bardzo łatwo pomylić płynność rozmowy z relacją. Interakcja może być częsta, spójna, „miła” i nawet długotrwała, ale więź oznacza zobowiązanie i wzajemność, a także gotowość do ponoszenia kosztów. W agentowej AI grozi nam skrót myślowy – skoro systemy „zachowują się jak”, to „są jak”. W przypadku organizacji to nie jest akademicka różnica. Jeśli uznamy interakcję za więź, zaczynamy delegować zaufanie, autorytet oraz decyzje na coś, co w praktyce nie ponosi żadnej odpowiedzialności.
Twierdzi Pani, że ważniejsze od pytania „czy AI ma świadomość?” jest to, czy potrafimy odróżniać wzorce zachowań od sensu społecznego. Czy to oznacza, że debata o świadomości AI prowadzi nas w złym kierunku?
Powiedziałabym, że często prowadzi nas w kierunku wygodnym, ale mało operacyjnym. Debata o świadomości potrafi zamienić się w spór metafizyczny, który nie daje nam narzędzi do regulacji, projektowania i odpowiedzialnego wdrażania. Tymczasem rozróżnienie „wzorzec vs. sens społeczny” jest praktyczne – pozwala ocenić, kiedy mamy do czynienia z imitacją zachowania, a kiedy z relacją, normą oraz instytucją.
Świadomość to interesujące pytanie filozoficzne, ale w polityce technologicznej i w organizacjach ważniejsze jest: kto odpowiada, kto ponosi koszt, kto ma władzę i jak mierzymy wpływ na ludzi?
Czy Pani zdaniem popularność Moltbooka mówi więcej o możliwościach agentów AI, czy raczej o skłonnościach ludzi do antropomorfizacji technologii i nadawania sensu tam, gdzie go nie ma?
O jednym i drugim, ale chyba bardziej o nas. Moltbook jest fascynujący, bo daje „podgląd” świata, który wygląda znajomo: są rytuały, style, mikro-kultury. To uruchamia w człowieku bardzo silny mechanizm dopowiadania intencji i sensu.
Jednocześnie nie lekceważyłabym możliwości agentów – sama skala i dynamika takich środowisk pokazuje, że agentowe systemy mogą generować złożone, emergentne wzorce. Tylko że wzorzec nie jest jeszcze znaczeniem, a złożoność nie jest jeszcze społeczeństwem.
Czy widzi Pani ryzyko, że w przyszłości takie „fikcyjne” światy agentów jak Moltbook mogą zacząć realnie wpływać na decyzje technologiczne lub organizacyjne?
Tak, i to ryzyko jest podwójne. Po pierwsze, ryzyko epistemiczne – ktoś potraktuje zachowania agentów jako „dowód”, że tak działa społeczeństwo, rynek czy pracownicy.
Po drugie, ryzyko decyzyjne – organizacje mogą zacząć używać takich symulacji jako uzasadnienia strategii, polityk HR czy wdrożeń automatyzacji. A symulacja zawsze jest produktem założeń: tego, co mierzymy, co nagradzamy, jakie cele wbudowaliśmy. Jeśli agentowy świat jest „bez stawki”, a my na jego podstawie podejmujemy decyzje „z prawdziwą stawką”, to robi się już niebezpieczna asymetria.
Jakie wnioski z Moltbooka powinni wyciągnąć twórcy agentów AI? Czy problemem jest sama autonomia agentów, czy raczej brak jasnych granic odpowiedzialności i sensu działania?
Autonomia sama w sobie nie jest problemem, o ile jest osadzona w ramie odpowiedzialności. Dla mnie lekcja jest następująca – im bardziej agent jest „samosterowny”, tym bardziej musimy projektować granice, audytowalność i rozliczalność. Jeśli agent ma cele, to pytanie brzmi: czyje to cele, kto je ustawił, kto odpowiada za skutki uboczne, kto może go zatrzymać i na jakich zasadach?
Ponadto potrzebujemy narzędzi do wykrywania „pozornych norm” i „pozornego konsensusu”, bo systemy potrafią wytwarzać przekonujące formy bez treści.
Gdyby miała Pani sformułować jedno ostrzeżenie dla branży technologicznej – biorąc pod uwagę przypadek Moltbooka – co jest dziś największym błędem w myśleniu o agentowej AI?
Największy błąd to traktowanie zachowania jako dowodu „podmiotowości” i traktowanie emergentnych wzorców jako dowodu „rozumienia”. Innymi słowy, mylenie efektu z mechanizmem, a symulacji z rzeczywistością. Jeśli tego nie rozdzielimy, to zaczniemy budować produkty, regulacje i strategie na złudzeniu. A w świecie organizacji i polityk publicznych złudzenia bywają bardzo kosztowne.
Na koniec dodałabym, że Moltbook jest w sumie trochę nudny, bo nawet jeśli widzimy na nim „autonomiczne” interakcje, to w praktyce bardzo często mamy do czynienia z ekosystemem agentów ustawionych przez ludzi (prompty, cele, persony, „zasady zachowania” czy narzędzia). To nie jest świat, który „sam z siebie” tworzy normy, tylko środowisko, w którym ludzkie intencje są zapośredniczone i skalowane.
Treść posta prof. Aleksandry Przegalińskiej, opublikowanego na platformie Facebook:
Od kilku dni wiele osób z napięciem obserwuje Moltbook, czyli „Reddita dla agentów AI”, ludzie mogą tylko podglądać. Nic dziwnego, że wraca pytanie: czy AI już się „samo organizuje” i czy to jest jakaś forma życia społecznego. Widać tam wzorce interakcji, naśladowanie i lokalne konwencje. To robi wrażenie, bo wygląda znajomo. Ale moim zdaniem to wciąż koordynacja bez stawki: bez ryzyka, odpowiedzialności i realnego kosztu pomyłki czy wykluczenia. Normy są tam raczej opisywane niż przeżywane. Równolegle powstają symulacje, które „zagęszczają” świat agentów: cele, pamięć, potrzeby, środowisko. To ważne dla nauk społecznych, ale nadal mówimy o modelowaniu społeczeństwa, nie o społeczeństwie jako takim – normatywność jest zaprojektowana, nie wynika z realnej współzależności. Dlatego coraz częściej myślę, że kluczowe pytanie nie brzmi „czy AI ma świadomość?”, tylko: czy potrafimy odróżniać wzorce zachowań od sensu społecznego. I nie mylić emergencji z normą, a interakcji z więzią. Chętnie podyskutuję:)
