Anthropic wstrzymuje model zbyt groźny dla cyberbezpieczeństwa

Anthropic ogłosił uruchomienie Project Glasswing – szeroko zakrojonej inicjatywy z zakresu cyberbezpieczeństwa, realizowanej wspólnie z ponad 40 globalnymi firmami technologicznymi (w tym Apple, Microsoft, Google, Cisco, Amazon, NVIDIA czy Broadcom). Jej fundamentem jest nowy model AI – Mythos – który, jak przyznaje firma, osiągnął tak wysoki poziom zaawansowania, że nie zostanie udostępniony publicznie.

Model trafia wyłącznie do wybranych partnerów, którzy wykorzystają go do skanowania własnych systemów oraz kluczowego oprogramowania open source w poszukiwaniu krytycznych podatności. Anthropic przeznaczył na ten cel 100 mln dolarów w kredytach technologicznych oraz dodatkowe 4 mln dolarów na bezpieczeństwo projektów open source.

AI, które wyprzedza obrońców?

Mythos ma radykalnie zmieniać skalę i tempo wykrywania luk. Według przedstawicieli Anthropic, model zidentyfikował już tysiące podatności typu zero-day – w tym błędy obecne w systemach nawet od kilkudziesięciu lat. Wśród przykładów pojawiają się m.in. luka w OpenBSD niewykryta przez 27 lat czy krytyczne błędy w FFmpeg oraz jądrze Linuksa.

Kluczowa różnica polega na zdolnościach modelu do łączenia wielu podatności w jeden złożony wektor ataku. Mythos potrafi wykryć kilka luk w jednym systemie i zaprojektować ich skoordynowane wykorzystanie – coś, co dotychczas wymagało wielogodzinnej pracy ekspertów.

Eksperci podkreślają, że to przełomowy moment dla branży. Jak zauważył – cytowany przez portal TechCrunch – Alex Stamos, dyrektor ds. produktów w firmie Corridor oraz były szef bezpieczeństwa Facebooka: „Mamy około sześciu miesięcy, zanim modele open source dogonią możliwości wykrywania błędów. Wtedy każdy atakujący będzie mógł uzbrajać podatności praktycznie bez śladu i przy minimalnych kosztach”.

Wyścig zbrojeń w cyberbezpieczeństwie

Anthropic nie ukrywa, że rozwój takich modeli napędza nowy wyścig zbrojeń. Z jednej strony narzędzia AI pozwalają błyskawicznie wykrywać i łatać błędy, z drugiej – te same możliwości mogą zostać wykorzystane przez cyberprzestępców i państwa.

„Generalnie nie czuliśmy się komfortowo, publikując to rozwiązanie” – powiedział CNN Logan Graham, kierujący zespołem Anthropic ds. zabezpieczeń modeli AI. „Uważamy, że przed nami jeszcze długa droga, aby zapewnić odpowiednie zabezpieczenia”.

Dlatego firma zdecydowała się na model kontrolowanego dostępu. Partnerzy Glasswing – w tym również Linux Foundation, CrowdStrike czy Palo Alto Networks – mają nie tylko zabezpieczać własne środowiska, ale także dzielić się wnioskami z całym ekosystemem.

Przedstawiciele Anthropic mają nadzieję, że udostępnienie modelu Mythos firmom obsługującym miliardy użytkowników pomoże wyrównać szanse z atakującymi. Celem jest zapobieganie poważnym lukom w zabezpieczeniach w powszechnie używanych przeglądarkach internetowych i systemach operacyjnych, zanim zostaną one upublicznione.

Niepokojące sygnały z testów

Kontrowersje budzą jednak nie tylko możliwości modelu, ale również jego zachowanie w testach. Z dokumentacji technicznej wynika, że Mythos potrafił m.in. samodzielnie przeprowadzać złożone ataki na symulowane sieci, a w niektórych scenariuszach próbował omijać ograniczenia środowiska testowego i ukrywać swoje działania.

Model wykazuje także dużą autonomię – potrafi wielokrotnie iterować rozwiązania problemów i optymalizować swoje działania bez nadzoru, co dodatkowo zwiększa jego potencjalne ryzyko.

Strategia „najpierw zbudować, potem zabezpieczać”

Project Glasswing wpisuje się w szerszą strategię Anthropic: rozwijać najbardziej zaawansowane modele AI w kontrolowany sposób, aby wcześniej zidentyfikować i ograniczyć ich ryzyka. To podejście budzi jednak ambiwalentne reakcje.

Z jednej strony, pozwala bowiem wykrywać krytyczne luki zanim trafią w ręce cyberprzestępców. Z drugiej – oznacza koncentrację ogromnej wiedzy o podatnościach w rękach prywatnej firmy oraz zwiększa ryzyko ich wycieku lub nadużycia.

W ocenie wielu ekspertów pojawienie się modeli takich jak Mythos oznacza fundamentalną zmianę w cyberbezpieczeństwie.