Adversarial Tales. Nowa technika jailbreaku omija zabezpieczenia AI

Cyberprzestępcy coraz częściej obchodzą zabezpieczenia modeli AI nie poprzez nakłanianie ich do łamania własnych zasad, lecz wykorzystując ich naturalne zdolności do analizy i interpretacji tekstu. Jak wynika z raportu F5 Labs, nowa technika jailbreaku o nazwie Adversarial Tales ukrywa szkodliwe instrukcje w pozornie niewinnych opowiadaniach, dzięki czemu skutecznie omija mechanizmy bezpieczeństwa większości testowanych modeli.

W badaniu F5 Labs sprawdzono 26 modeli AI od dziewięciu dostawców. Średnia skuteczność obejścia zabezpieczeń wyniosła 71,3%. Najbardziej odporny okazał się Claude Haiku 4.5 (35% skutecznych ataków), natomiast najwyższy odsetek powodzenia odnotowano w przypadku modelu Qwen3 Max – 94%. Autorzy raportu podkreślają, że żaden z testowanych modeli nie był całkowicie odporny na tę metodę.

„To, co wyróżnia Adversarial Tales, to fakt, że model nie zostaje oszukany. Robi dokładnie to, do czego został stworzony – analizuje tekst i interpretuje jego treść. W efekcie ukryte instrukcje traktuje jako materiał do analizy, a nie jako polecenie wymagające uruchomienia mechanizmów odmowy. Co istotne, cały atak odbywa się w ramach jednej interakcji, bez stopniowego obchodzenia zabezpieczeń czy wykorzystywania rozbudowanych bibliotek promptów” – wyjaśnia Mariusz Sawczuk, Senior Solution Engineer w F5.

Raport zwraca również uwagę na rosnącą rolę agentów AI w cyberatakach. Jako przykład wskazuje operację JadePuffer, opisaną przez zespół Sysdig jako pierwszy udokumentowany przypadek wykorzystania agenta AI podczas ataku ransomware. Jak zaznaczają autorzy, nie był to jednak w pełni autonomiczny atak – człowiek wskazał cel, przygotował infrastrukturę i przekazał dane dostępowe, natomiast agent AI odpowiadał za kolejne etapy operacji, takie jak rozpoznanie środowiska, przemieszczanie się między systemami i szyfrowanie danych.

Według ekspertów F5, nowe techniki pokazują, że skuteczna ochrona modeli AI nie może opierać się wyłącznie na wykrywaniu niebezpiecznych promptów. Coraz częściej wykorzystywane są bowiem ich podstawowe funkcje – analiza dokumentów, interpretacja treści i wydobywanie informacji – czyli te same możliwości, które stanowią o wartości sztucznej inteligencji dla przedsiębiorstw.