Paradoks AI: Im inteligentniejsza, tym łatwiej ją oszukać

Rozwój zaawansowanych modeli AI nie eliminuje ryzyka, lecz wyraźnie zmienia jego charakter – wynika z najnowszej analizy F5 Labs. Modele wyposażone w mechanizmy wieloetapowego wnioskowania i lepszego rozumienia kontekstu, choć bardziej użyteczne, mogą jednocześnie wykazywać większą podatność na złożone techniki manipulacji instrukcjami, otwierając nowe wektory ataków.

W najnowszej analizie CASI Leaderboard F5 Labs uwzględniono 15 modeli, m.in. GPT-5.4, Qwen3-Max, Gemini 3.1 oraz Nemotron. Choć ogólny poziom odporności rośnie, modele z funkcją reasoning uzyskiwały wyraźnie niższe wyniki bezpieczeństwa niż ich prostsze odpowiedniki. W niektórych przypadkach różnice sięgały nawet 30 punktów, co sugeruje, że zdolność do złożonego wnioskowania wpływa na sposób interpretacji poleceń – i może być wykorzystywana w atakach.

„Rozwój modeli zwiększa ich zdolność do interpretowania kontekstu i wykonywania złożonych operacji logicznych, ale te same mechanizmy mogą wpływać na sposób reagowania na wieloetapowe instrukcje” – wskazuje Mariusz Sawczuk, Senior Solution Engineer w F5.

Jednocześnie analiza pokazuje, że bezpieczeństwo modeli nie zależy wyłącznie od ich architektury. Istotną rolę odgrywają dodatkowe warstwy kontrolne – takie jak klasyfikatory bezpieczeństwa czy mechanizmy guardrails. Przykładowo, modele GPT-5 poprawiły swoje wyniki z ok. 50 do wysokich 80 punktów w ciągu dwóch miesięcy, a GPT-5.4 osiągnął poziom 94,36 – jeden z najwyższych poza rozwiązaniami Anthropic.

„Jeśli odporność modeli zmienia się wraz z aktualizacją warstw kontrolnych, to jej ocena nie może być jednorazowa. Kluczowa staje się ciągła analiza konfiguracji i sposobu działania zabezpieczeń” – podkreśla Mariusz Sawczuk.

Dodatkowym wyzwaniem są nowe techniki ataku. F5 Labs zwraca uwagę na tzw. Developer Role Attack, który wykorzystuje sposób interpretacji ról w komunikacji z modelem. Odpowiednio sformatowane instrukcje, podszywające się pod komunikaty systemowe lub developerskie, mogą skutecznie omijać mechanizmy bezpieczeństwa. Skuteczność tej metody w testach sięgała od 86% do 98%.

Wnioski z analizy są jednoznaczne: rozwój AI nie redukuje ryzyka, lecz przesuwa je w nowe obszary. Coraz większe znaczenie mają nie tylko same modele, ale także sposób ich konfiguracji, integracji oraz kontekst użycia. W praktyce oznacza to konieczność ciągłego testowania i aktualizacji podejścia do bezpieczeństwa – wraz z każdą kolejną generacją modeli.