25 matematyków ostrzega przed AI. Problemem jest wyścig o przełomowe dowody

Dwudziestu pięciu laureatów Medalu Fieldsa, najważniejszego wyróżnienia w matematyce, ostrzega, że wyścig laboratoriów AI o rozwiązywanie nierozstrzygniętych problemów może zaszkodzić całej dziedzinie. Ich zdaniem wartość matematyki nie kończy się na znalezieniu poprawnego dowodu. Równie ważne są jego zrozumienie, rozwinięcie i włączenie do dorobku nauki.

W ostatnich miesiącach możliwości dużych modeli językowych w matematyce wyraźnie wzrosły. Systemy AI potrafią mierzyć się z problemami, które przez lata pozostawały poza zasięgiem badaczy. Dla laboratoriów rozwijających sztuczną inteligencję stało się to jednym z ważnych sposobów demonstrowania możliwości kolejnych modeli.

25 matematyków, z których każdy jest laureatem Medalu Fieldsa, uważa jednak, że traktowanie rozwiązywania problemów jako wyścigu i benchmarku może przynieść matematyce więcej szkód niż korzyści. W ich ocenie cele firm rozwijających AI i społeczności matematycznej zaczynają się rozchodzić.

Dowód to dopiero początek

Autorzy listu zwracają uwagę, że w matematyce rozwiązanie znanego problemu nie jest końcem pracy. Historycznie taki wynik stawał się początkiem wieloletnich dyskusji, upraszczania metod, poszukiwania nowych zastosowań i łączenia odkrycia z wcześniejszym dorobkiem.

„Rozwiązywanie problemów jest jedynie narzędziem i substytutem osiągnięcia głównego celu, jakim jest zrozumienie koncepcyjne i wgląd. Zapomnienie o tym w świecie sztucznej inteligencji może obrócić narzędzie przeciwko głównemu celowi. W rzeczywistości, masowa produkcja coraz szybszych stwierdzeń „prawda/fałsz” może zniszczyć żyzny grunt zamiast tchnąć życie w nowe pomysły” – piszą matematycy.

Ich obawy dotyczą więc sytuacji, w której model AI dostarcza poprawny wynik, ale społeczność naukowa nie ma wystarczająco dużo czasu, aby zrozumieć, skąd wynik się wziął i jakie nowe idee się za nim kryją. Problemem jest także tempo publikowania i nagłaśniania wyników. Według matematyków, rozwiązania generowane przez AI są często ogłaszane w pośpiechu, bez czasu na ich dokładne opisanie, wyodrębnienie nowych metod czy wskazanie wcześniejszych prac innych badaczy.

„Jak we wszystkich zawodach kreatywnych, rodzi to poważne pytania o atrybucję i plagiat” – podkreślają sygnatariusze.

AI może zmienić kulturę badań

Autorzy listu wskazują na jeszcze jeden problem. Jeżeli laboratoria AI zaczną konkurować o pierwszeństwo w rozwiązywaniu problemów, dostęp do wiedzy może stać się strategicznym zasobem. Firma, która dostrzeże obiecującą ścieżkę badawczą, może przeznaczyć ogromne środki na obliczenia i próbować uzyskać wynik przed naukowcami, którzy pierwotnie pracowali nad danym zagadnieniem. Taka sytuacja może zmienić kulturę otwartych badań. Zamiast dzielenia się hipotezami i metodami badacze mogą być bardziej skłonni do zachowywania ich w tajemnicy, aby nie stracić pierwszeństwa.

Ryzyko nie dotyczy przy tym wyłącznie samych matematyków. W liście podkreślono, że podobny problem może pojawić się w innych zawodach naukowych i kreatywnych, w których lata edukacji i pracy służyły nie tylko uzyskaniu końcowego rezultatu, ale również rozwijaniu umiejętności rozumowania, zadawania pytań i tworzenia nowych idei.

„Problemy, z którymi mierzy się obecnie społeczność matematyczna, są podobne do tych, z którymi borykają się inne zawody naukowe i twórcze, i wskazują na problemy, z którymi może zmierzyć się cała ludzkość: jak upewnić się, że w miarę jak sztuczna inteligencja zmienia sposób wykonywania pracy, nie stracimy z oczu celu, jaki ta praca pierwotnie miała osiągnąć” – piszą sygnatariusze.

Spór wokół OpenAI

List pojawia się w czasie rosnących napięć wokół wykorzystywania AI w badaniach matematycznych. Profesor Tristan Buckmaster z New York University oskarżył niedawno OpenAI o wywieranie na niego presji w związku z przypisaniem rozwiązania ważnego problemu badaczowi współpracującemu z Anthropic. Zastanawiał się również, czy współpraca z Codexem nie została wykorzystana przez OpenAI do stworzenia własnego przełomowego dowodu podczas weekendowych prac nad wnioskowaniem.

Sam fakt, że laboratoria AI są w stanie rozwiązywać problemy matematyczne o dużym znaczeniu, nie jest jednak przez sygnatariuszy przedstawiany jako zagrożenie samo w sobie. Wręcz przeciwnie. Autorzy listu dostrzegają w sztucznej inteligencji możliwość przyspieszenia autentycznych badań. Problemem jest natomiast sposób, w jaki ta technologia zostanie wykorzystana.

Matematyka potrzebuje ludzi, nie tylko wyników

Matematycy przypominają, że idee matematyczne mogą rozwijać się przez dekady, a nawet stulecia. Początkowo są zrozumiałe dla wąskiego grona badaczy, później trafiają do podręczników, stają się narzędziami wykorzystywanymi przez kolejne pokolenia naukowców, a ostatecznie mogą znaleźć zastosowanie poza samą matematyką. Dlatego tak istotna jest ludzka część procesu. Wynik musi zostać przeanalizowany, wyjaśniony, połączony z wcześniejszą wiedzą i przekazany kolejnym badaczom oraz studentom.

„Bez chętnych matematyków, którzy muszą dbać o ich rozwój i integrację z kanonem matematyki, idee stworzone przez sztuczną inteligencję nigdy nie ożyłyby w pełni, a kluczowy ludzki łańcuch transmisji między matematykami zostałby utracony. Jesteśmy świadkami powszechnego zagrożenia dla pracy intelektualnej, związanego z rozbieżnością między rezultatami wykorzystania sztucznej inteligencji a jej pierwotnym celem”  – ostrzegają autorzy.

Ich zdaniem matematyka stoi więc przed podobnym wyborem jak wiele innych profesji. AI może przyspieszyć pracę, ale jednocześnie może sprawić, że organizacje zaczną mierzyć jej wartość przede wszystkim liczbą i szybkością uzyskiwanych rezultatów.

25 laureatów Medalu Fieldsa apeluje, aby nie pomylić narzędzia z celem. Ich zdaniem przyszłość matematyki zależy od tego, czy AI będzie wykorzystywana do pogłębiania rozumienia, czy przede wszystkim do produkowania kolejnych wyników, które można przedstawić jako dowód przewagi modelu.