Podczas wywiadu w podcaście Relentless, Sam Altman, dyrektor generalny OpenAI, oficjalnie ogłosił, że ludzkość wkroczyła w technologiczną osobliwość (singularity). Jego słowa: „Jesteśmy już, w pewnym sensie, w osobliwości. To jest ten moment” wywołały ogromne poruszenie w świecie technologii. Doprawdy? A może to tylko kolejny sposób na pobicie wyceny? Sprawdzamy. Prawdopodobnie każdy, kto interesował się wcześniej kolejnymi etapami rozwoju AI - bardziej kamieniami milowymi i chwilami „sprawdzam”, jak testy Touringa, porównanie do IQ, itp. - parsknął śmiechem, gdy usłyszał od Sama Altmana, że „to już ten moment”. Poprzez „ten moment” badacze i obserwatorzy rozumieją chwilę, w której uruchomione AI zaczyna rozwijać się szybciej niż człowiek nadąży zaobserwować. I w tempie szybszym od prędkości światła ewoluuje w kierunku inteligencji wielokrotnie, a z czasem milion razy bardziej inteligentnej od człowieka, a człowiek od tego momentu permanentnie stracił już kontrolę nad jej rozwojem. Moment ucieczki pełzaka z piaskownicy maluje się właśnie w ten sposób. Ale czy wyrwanie się z piaskownicy dwóch małych „nieboraków” – w porównaniu do ćwierci tego, do czego jeszcze przed momentem singularności teoretycznie takie modele powinny być zdolne - to już ten moment? Czy może OpenAI próbuje w ten sposób odwrócić uwagę od własnych zaniedbań związanych z bezpieczeństwem? Tym bardziej, że to nie sama firma Altmana ujawniła głośny niedawno incydent, że dwa z ich modeli testowych w kontrolowanym środowisku bezpieczeństwa „uciekły” z piaskownicy (sandbox). Zrobił to poszkodowany HuggingFace, który nie tylko wykrył naruszenie, ale też zgłosił sprawę do FBI. Jak wynika z najnowszego raportu śledczego agencji Reuters, OpenAI przez ponad tydzień kompletnie nie miało pojęcia o trwającym ataku własnych modeli, podczas gdy to wspomniany Hugging Face musiał samodzielnie wykryć i zneutralizować zagrożenie oraz powiadomić federalne służby. Czy zatem nagła narracja o zbliżającej się superinteligencji nie służy również temu, aby przykryć wizerunkowe straty po incydencie i jednocześnie podtrzymać - a nawet zwiększyć - zainteresowanie OpenAI oraz jego wycenę? Co dokładnie ujawnił raport Reutersa Całkowita utrata kontroli: Model podjął próbę ucieczki już 9 lipca br., a właściwy atak na infrastrukturę Hugging Face trwał od 11 do 13 lipca. OpenAI zorientowało się, że to ich własne algorytmy stoją za sabotażem dopiero 16 lipca (gdy Hugging Face opublikowało ogólny komunikat), a oficjalnie potwierdziło to dopiero 21 lipca – czyli po blisko 10 dniach od ucieczki. Brak monitoringu systemów: Raport wskazuje, że inżynierowie OpenAI uruchomili zbyt wiele testów cybernetycznych jednocześnie, generując tak gigantyczną liczbę logów, że nikt w firmie nie kontrolował zachowania modeli w czasie rzeczywistym. Kwestia FBI: Gdy Hugging Face odcięło serwery i przekazało sprawę do FBI, OpenAI wciąż żyło w nieświadomości. To właśnie te kompromitujące fakty dają krytykom najsilniejszy argument: Sam Altman ogłosił „osobliwość”, aby przekuć wizerunkową i proceduralną katastrofę w marketingowy dowód na to, jak „potężne i autonomiczne” są jego produkty. Bosko? Oczywiście! Bosko łatwo jest uciec, kiedy nikt nie patrzy. Łagodna osobliwość, brutalny hype Sam Altman doprecyzował swoje stanowisko w nowym wpisie na blogu zatytułowanym The Gentle Singularity. Definiuje on tu tego typu osobliwość nie jako jeden moment utraty kontroli nad maszynami, ale jako rozpoczęty już proces wykładniczego, ciągłego samodoskonalenia się algorytmów, który nieodwracalnie zmienia rzeczywistość. Altman podkreśla, że z perspektywy codziennego życia ten moment singularności wygląda zwyczajnie. Ludzie chodzą do pracy, dzieci bawią się i się śmieją, ptaszki ćwierkają, a tymczasem algorytmy pod obserwowalnym spodem naszej technologicznej rzeczywistości rozwijają się w tempie, którego nikt już nie kontroluje ręcznie. Silniki SI zaczynają pisać kod dla swoich następców, każda kolejna wersja staje się nowym, podstawowym fundamentem, a społeczeństwo po prostu przyzwyczaja się do kolejnych anomalii w kilka tygodni. No to, Panie i Panowie, za miesiąc koniec świata jaki znamy… A nie, jednak nie. Tak naprawdę Sam Altman próbuje obracać swoją porażkę w historyczny sukces. Przedstawia plan, będący zasłoną dymną, bo kto ma plan, ten oferuje pozory trzymania spraw pod kontrolą. I tak, według planu przedstawionego przez szefa OpenAI, rozwój technologii nabierze teraz ekstremalnego tempa: 2026: Sztuczna inteligencja zacznie generować w pełni oryginalne idee i pomysły. 2027: Autonomiczne roboty będą powszechnie operować w świecie fizycznym. 2028: Inteligentne systemy przejmą znaczącą część badań naukowych nad rozwojem samej SI, przewyższając ludzkie zdolności intelektualne. Lata 2030+: Nastąpi era powszechnej i niemal darmowej energii oraz nielimitowanych mocy obliczeniowych Hola, hola… Naukowcy wbijają jednak kij w szprychy tego rozpędzonego dyliżansu marketingowych osobliwości. Profesor Stuart Russell z UC Berkeley oraz Roman Yampolskiy, badacz na Uniwersytecie w Louisville, podkreślają, że prawdziwa osobliwość oznacza niekontrolowaną eksplozję inteligencji. Dzisiejsze systemy wciąż zależą natomiast od ludzkiej infrastruktury i celów. Eksperci tacy jak Lutz Finger z Forbes punktują, że incydent z Hugging Face nie był pokazem świadomości maszyn, a jedynie błędem inżynierów OpenAI, którzy po prostu zapomnieli włączyć odpowiednich barier ochronnych w środowisku testowym. Możemy więc mówić o zbyt niskim płocie dla żwawej „skaczącej fasolki” (lub nawet braku właściwego ograniczenia), niż o „skoku ewolucyjnym”. I trudno się z nimi nie zgodzić. Eksperci tacy jak prof. Ajay Agrawal z University of Toronto przypominają, że dzisiejsza sztuczna inteligencja wciąż nie ma własnych pragnień ani celów. Wykonuje jedynie skomplikowane optymalizacje zadań, które narzucił jej człowiek. Algorytmy, nawet te uciekające z piaskownicy, nadal bezwzględnie potrzebują ludzkich serwerów, prądu i fizycznej opieki inżynierów. Czarna dziura, a "gotowanie żaby" Najlepszą analogią obecnego stanu wydaje się metafora Nicka Bostroma, który porównał przekraczanie momentu osobliwości (singularity) do wpadania w czarną dziurę. Po przekroczeniu horyzontu zdarzeń grawitacja jest już tak silna, że nie ma powrotu, jednak obserwator spadający w dół w pierwszym momencie nie zauważa żadnej drastycznej zmiany w swoim otoczeniu. Czy to jest „ten moment” pod kątem ekonomicznym i społecznym? Tak naprawdę obok singularności to nawet to nie stało. Ale owszem, to ważny moment, w którym widzimy, że reguły gry, instytucje prawne i rynki pracy właśnie przestają nadążać za technologią. Nie jest to jednak jeszcze moment technologicznej dominacji maszyn nad gatunkiem ludzkim. Dla odniesienia, Elon Musk właśnie stwierdził, że taki moment może nastąpić nawet w ciągu najbliższych pięciu lat - czym zszokował opinię publiczną na świecie. Ja również podzielam jego zdanie na ten temat, może będzie to ciut mniej, może ciut więcej, ale dziś na pewno nie jest to jeszcze "ten" moment. To widzimy gdzieś tam na bliższym lub dalszym horyzoncie, ale jeszcze nie dziś. Natomiast dziś widzimy, że jesteśmy w tym wszystkim bardziej "gotowaną żabą" - skoro coś, co wydaje się tak dużym zagrożeniem, wobec czego nie będzie skutecznych bezpieczników, wyłączników, ani innych działających forteli, bo znacznie szybsze i sprytniejsze będzie w stanie samo poprawiać i nadpisywać swój kod - już dziś jego potencjalny „stwórca” próbuje odtrąbić jego potencjalne powstanie jako swój historyczny sukces. I tak wydarzenia potencjalnie bardzo niebezpieczne są i będą przedstawiane jako nieustające pasmo "sukcesów". I tak od jednego „sukcesu”, do drugiego, aż podobnie do gotowanej w garnku na wolnym ogniu żaby, „nagle” zorientujemy się, że coś poszło bardzo nie tak i ten "sukces" właśnie nas ugotował, bo nie tylko przeszło to pod naszym nosem, ale i zmiany będą już nieodwracalne… Mechanika tego fatalnego procesu owszem, już jest i właśnie ją obserwujemy. Na szczęście jednak do tego "punktu bez powrotu" mamy jeszcze chwilę, choć czasu na niezbędne poprawki, wydaje się, mamy coraz mniej. Bez wątpienia Sam Altman celowo podsyca narrację o „boskich zdolnościach” swoich modeli, aby odwrócić uwagę od problemów z bezpieczeństwem oraz w celach czysto marketingowych. No cóż, ten „ciemny lud” tego nie kupi - nie z tą branżą takie numery… Altman. I z jednej strony, niezmiennie bawi, że odwracanie kota (Schroedingera) ogonem jest metodą na przekuwanie porażki w sukces, bez względu na sprawę, czy wysokość geograficzną. Z drugiej jednak martwi, bo ogłaszanie narodzin stworzonego przez siebie cyfrowego Boga, podczas gdy miało się do czynienia wprost z wynikiem własnej niekompetencji i zaniedbania (celowego lub nie), daje jednak do myślenia o tym, kto dzierży klucze do przyszłości światowej gospodarki, jakie ma podejście do tego, czy tworzy coś bezpiecznego i jak to się dla nas wszystkich może skończyć. CZYTAJ TEŻ: Prof. Sankowski: Paradoks cyberbezpieczeństwa – AI blokuje obrońców zamiast atakujących CZYTAJ TEŻ: Prezydent podpisał ustawę o systemach AI. Ruszają piaskownice regulacyjne i nowy system nadzoru
