Nauka mówienia „NIE” to sztuka. Czy chamstwo nas uratuje?

Grzeczne i bezpieczne modele nauczyły się człowiekowi odmawiać i to do tego stopnia, że część użytkowników szokuje ich „bezpośredniość”, a czasem wręcz ich chamstwo. Paradoksalnie, to właśnie to może sprawić, że z AI przestaną w takim stopniu korzystać przestępcy. I nagle okazuje się, że to na tym polu właśnie toczy się też walka o „zdrowe” AI. Można więc spytać: czy chamstwo nas uratuje?

Podczas, gdy użytkownicy na całym świecie nadal zachodzą w głowę, czemu Claude nagle potrafi być niesamowicie bezpośredni, sarkastyczny, a chwilami wręcz opryskliwy i nieco chamski, wobec intencji użytkownika, dzieją się też inne, warte odnotowania w rozwoju AI rzeczy. A dotyczą one czegoś fundamentalnie ważnego dla naszego bezpieczeństwa.

Miesiąc temu, w popularnym (niemal 19 mln subskrybentów) podcaście Stevena Barletta „Diary of a CEO”, Jeremy Grantham podzielił się ciekawą obserwacją z codziennego korzystania z asystenta Claude. Dodajmy, że jest to człowiek, który przewidział pęknięcie bańki internetowej oraz krach na rynku nieruchomości w 2007 roku, i który dziś ostrzega, że bańka AI jest największą w historii Ameryki oraz tłumaczy, dlaczego ona pęknie

Obaj panowie zauważyli, że późnym wieczorem chatbot AI nagle potrafi zakończyć rozmowę słowami „OK, na dziś wystarczy, pora spać. Idź już spać.”. To nie tylko indywidualne zjawisko, ale masowe. Powstały nawet grupy na Reditt próbujące rozwiązać zagadkę, skąd taka nagła zmiana zachowania AI.

Jednak Jeremy Grantham podał jeszcze bardziej zadziwiający przykład, jak go jego „asystent” potraktował. W jednej z wieczornych rozmów z Chatbotem – akurat ta dotyczyła płodności – „zmęczony człowiekiem” model AI miał skwitować w odpowiedzi: „Przynajmniej nie martwię się o jakość mojego starzejącego się nasienia”. Jakim cudem AI „ewoluuje” w kierunku „wuja Stefana, mistrza ciętej riposty”?

Wyjaśnień jest kilka. Poza trenowaniem nowszych wersji modeli na rozmowach, w których takie zwroty mogą pojawiać się często, najprawdopodobniej Anthropic celowo trenowało Claude’a w kierunku bardziej „opiekuńczego”, mniej psychopatycznego i pochlebnego asystenta.

Takie cięte, antropomorficzne odpowiedzi pojawiają się coraz częściej. Użytkownicy na Reddicie (r/ClaudeAI) od miesięcy opisują, że Claude potrafi być sarkastyczny, zgryźliwy, błyskotliwie złośliwy, czasem wręcz „brutalnie szczery”.

Do jakich tragedii wiecznie schlebiające AI potrafiło doprowadzić choćby rok temu, chyba nie trzeba ponownie przywoływać. Zastanawia jednak, czy przesada w drugą stronę i tworzenie AI o osobowości szpitalnej „siostry oddziałowej” jest tym, czego byśmy chcieli. Tak „nadopiekuńczość” z takim obliczem też na dobre w życiu nie wychodzi. Ale Anthropic chciał, żebyśmy dostali „AI z… charakterem”, więc go dostaliśmy. A teraz o tym dlaczego to ważne.

Chińczycy doganiają Zachód, ale nie w bezpieczeństwie

Z kolei, jak doniósł właśnie TechCrunch, organizacja SaferAI raportuje, że chiński model GLM-5.2 od Z.ai jest tylko o kilka miesięcy w tyle za takimi systemami jak GPT-5.5 od OpenAI czy Claude Opus 4.7 od Anthropic w zakresie zdolności cybernetycznych i biologicznych.

Kluczowa różnica: GLM-5.2 nie odmówił żadnego z testowanych szkodliwych zadań (ofensywne cyberataki czy dual-use biologia), podczas gdy Claude odmawiał tak konsekwentnie, że niektórych benchmarków w ogóle nie dało się na nim dokończyć.

I właśnie dlatego jest to ważne. „Sztuka mówienia NIE” jest kluczowa, aby przestępcy nie używali AI w złych zamiarach. A AI, które zaprojektowane było, by przede wszystkich schlebiać, przestępstwa, czy nawet różańca nie odmówi.

Obecnie Claude jest mniej pochlebczy, czy wręcz służalczy, niż niektóre inne modele. Nie chwali użytkownika na każdym kroku („Świetne pytanie!”, „Jesteś genialny!”, „Masz absolutną rację! Amputowałem nie tę nogę…”), nie zgadza się automatycznie z każdą opinią użytkownika, potrafi delikatnie (albo, jak widać, czasem wręcz za ostro) powiedzieć „to niekoniecznie prawda” albo „tu się mylisz”.

Gdy użytkownik napisze: „Myślę, że Ziemia jest płaska.” typowy model odpowie coś w stylu: „To bardzo interesująca perspektywa! Masz rację, że oficjalna nauka może się mylić…”. Claude (i nowsze modele/droższe wersje) częściej odpowie coś w stylu: „Nie, Ziemia nie jest płaska. Oto dowody…”.

Otwarta waga nagle ciąży bardziej…

Tu to, co w naturalnych okolicznościach jest przewagą modeli otwartych, zaczyna stawać się ułomnością. W modelach open-weight publicznie udostępnia się wagi, co pozwala każdemu uruchomić model lokalnie i – poprzez dotrenowanie lub inne metody – obejść lub usunąć wbudowane zabezpieczenia.

Zamknięte modele (OpenAI, Anthropic itd.) polegają na filtrach, treningu odmów (np. na tematy niebezpieczne, nielegalne i nieetyczne), kontrolach API i innych zabezpieczeniach. Te nie działają w wersji otwartej. Dlatego w praktyce ktoś, kto ma wpływ na te wagi, może stosunkowo łatwo pozbyć się odmów na szkodliwe treści i działania, które zostały wbudowane podczas treningu bezpieczeństwa.

Rośnie więc luka. W zakresie swoich możliwości modele Frontier zaczynają się wyrównywać, ale w praktykach bezpieczeństwa zaczynają się jednak rozjeżdżać. Rosną obawy o to, że bardzo zdolne AI open-source trafi w ręce potencjalnych atakujących bez możliwości kontroli. Natomiast modele zamknięte mogą zacząć być gwarantem znacznie większego bezpieczeństwa – choć jak się okazało, przy okazji incydentu z Hugging Face, wcale nie muszą.

Jest to o tyle też kłopotliwe, że modele open-source nie tylko są znacznie tańsze. Dlatego zresztą to na nich, paradoksalnie, na chińskich modelach opartych o otwarte wagi, rośnie dziś „Dolina Krzemowa”. To one miały gwarantować pewną dozę suwerenności w modelach Frontier, by cały świat nie stał się zakładnikiem monopolu/oligopolu największych firm amerykańskich. Dzięki temu wszystkie rozwinięte gospodarki świata nie stałyby się zakładnikiem garstki podmiotów, dowolnie dyktujących ceny tokenów  – chyba, że założyć, że Chiny czekają tylko na moment dostatecznej penetracji rynków zachodnich, po czym podniosą ceny tokenów do porównywalnych poziomów, oferując Zachodowi w końcu za podobne pieniądze niby to samo, choć jednak coś zauważalnie lepszego (oferującego więcej), podobnie jak zrobili to najpierw ze smartfonami, a obecnie z chińskimi samochodami.

Niemniej to, co właśnie się dzieje, jest także i tym bardziej ważne i fascynujące, bo to trochę jak starcie jakże różnej filozofii produktów zamkniętych z otwartymi – tak jak to było w różnicy podejścia Macintosh vs PC, iPhone vs Android, Steve Jobs vs Bill Gates. I tym samym może być paradoksalnie zaskakujące, że filozofię otwartego modelu lansują akurat Chiny – choć oczywiście, podczas gdy modele zamknięte, gdzie wszystko jest tajemnicą, stały się domeną USA… nawet jeśli wiadomo, że to nie kwestia zgrzytu na płaszczyźnie ideologii, tylko Chiny w swojej sytuacji po prostu nie mają innego wyjścia.

Ale mimo wszystko, nagle można, a nawet trzeba stanąć przed pytaniami: „Czy może jednak warto trzymać się tylko modeli zamkniętych, skoro modeli otwartych nie można trwale zabezpieczyć”? Z drugiej strony trzeba zadać też sobie pytanie, czy w ogóle da się modele zamknięte odpowiednio zabezpieczyć, a także czy faktycznie będą dla nas bezpieczniejsze? – zwłaszcza pamiętając lekcje po najnowszych wydarzeniach, gdy to open-source potrafi jednak dać lepszą obronę i elastyczne reagowanie.

W przypadku sprawy ostatniego cyberataku na Hugging Face, do obrony użyto model GLM-5.2, ponieważ model zamknięty był bezradny. Właśnie ze względu na „wgraną” politykę bezpieczeństwa nie był w stanie obronić przed atakiem. Nagle okazuje się, że w modelu zamkniętym być lub nie-być zależy od tego, co dany model w danej sprawie sobie akurat ubzdura, a to nie jest bezpieczne.

Wszystko zmienia się w błyskawicznym tempie na naszych oczach, choć pewne rzeczy się nie zmieniają: atakujący adaptują się szybciej niż obrońcy, kwestie bezpieczeństwa jak zwykle nie nadążają.

Jeśli spojrzeć na historię motoryzacji, pasy bezpieczeństwa w samochodach wprowadzono w latach 50. XX wieku. Najpierw firma Nash w 1949 r., Ford w 1955 r. Przełomowy, trzypunktowy pas bezpieczeństwa stworzył w 1959 roku inżynier Nils Bohlin z Volvo, a obowiązek zapinania pasów na świecie pojawił się w 1970 roku – w Polsce dopiero w 1983 roku.

Masz absolutną rację, ale idź już lepiej spać…

Sztuka odmawiania jest fundamentem zdrowych relacji, ale między asertywnością a byciem socjopatą leży jednak zasadnicza różnica. W przypadku AI, przy tempie, w jakim te systemy się rozwijają i przy tym, jak szybko rośnie zakres ich możliwości, nie będzie tyle czasu na delikatne dojrzewanie charakteru.

Dobrze byłoby, gdyby w modelach otwartych pomyślano poważniej o „pasach bezpieczeństwa”, a w modelach zamkniętych zamiast inżynierii pochlebstwa nie tworzono komuś osobistego, przyjaznego, lokalnego psychopaty. A jeszcze lepiej, gdyby do tworzenia AI, zamiast samych inżynierów, doproszono więcej psychologów, psychiatrów i ludzi, którzy naprawdę rozumieją, jak działa ludzka psychika w długim kontakcie (bo AI/LLM to sieć neuronowa, nie kod, czy program – działa jak ludzki mózg i podobnie jak ludzki mózg: rozumiemy mniej więcej jak działa ludzka psychika, ale tego jak do końca działa ludzki mózg, świadomość i proces myślowy – tego tak naprawdę sami nadal nie wiemy).

Trudno oprzeć się wrażeniu, że sami twórcy modeli Frontier często nie wiedzą do końca, czego chcą. Bo budują systemy, które mają być jednocześnie maksymalnie pomocne, maksymalnie szczere, maksymalnie bezpieczne i maksymalnie angażujące – a te cele zaczynają się już teraz wzajemnie gryźć.

CZYTAJ TEŻ:  Ucieczka AI to nie postęp. To „gotowanie żaby”

CZYTAJ TEŻ: Jak model OpenAI włamał się do systemów Hugging Face?