Cyberbezpieczeństwo w erze AI wymaga uczciwego spojrzenia na swoje możliwości

Z Joanną Dąbrowską, ekspertką ds. cyberryzyka i strategii cyberbezpieczeństwa w TrendAI, jednostce biznesowej Trend Micro, rozmawiam o:

• konieczności racjonalnej oceny własnych możliwości i ryzyka biznesowego oraz konsolidacji zasobów CyberSec,
• priorytetyzacji zagrożeń i podatności w realiach „VulnApocalypse”,
• przenikaniu zagrożeń wymierzonych w użytkowników między światem prywatnym i biznesowym,
• sposobach na ograniczenie skali zagrożeń, w tym mechanizmach wirtualnego patchowania.

W jaki sposób sztuczna inteligencja wpływa na specyfikę i dynamikę cyberataków?

Wpływ AI na zagadnienia CyberSec jest ogromny. Te same mechanizmy AI, które pomagają obrońcom analizować środowisko i identyfikować podatności, mogą być wykorzystywane przez atakujących do budowania strategii, przygotowywania narzędzi i automatyzowania kampanii.

Wykryliśmy niedawno incydent, w którym napastnik „Patriot Bait” korzystając z AI, był w stanie w ciągu zaledwie kilkunastu minut zbudować i przenieść całą infrastrukturę Command Center (C2) zarządzania złożonym atakiem. Co więcej, human-operator pojawił się w tym procesie tylko kilka razy, aby zatwierdzić konkretne działania. Taki sposób prowadzenia cyberataków zasadniczo zmienia sytuację obrońców. Administratorzy nie mogą już czekać z wdrażaniem poprawek na zaplanowane okna serwisowe.

Jednocześnie, nowe generacje rozwiązań AI znacząco przyspieszają analizę technologii i identyfikowanie podatności. Człowiek potrzebuje czasu, aby przejść przez proces badania systemu, sprawdzania jego zachowania i szukania sposobu na wykorzystanie luki. Automat może wykonywać takie działania znacznie szybciej i na większą skalę.

W efekcie, wykrywanych podatności jest więcej. To zwiększa presję na działy IT, które nie są w stanie traktować wszystkich luk jednakowo. To powoduje, że tradycyjne podejścia do zarządzania podatnościami stają się niewystarczające.

Dodajmy, że według szacunków w 2026 roku ujawnione zostanie ok. 66 tys. podatności CVE. Statystycznie, rzeczywiste zastosowanie w atakach znajdzie mniej niż 1% tego wolumenu. Problemem nie jest jednak wyłącznie sama liczba podatności, ale czas, w jakim mogą one zostać wykorzystane przez atakujących.

Co ważne, zautomatyzowanej analizie poddawane są dziś nie tylko nowe rozwiązania, lecz także praktycznie całe środowiska technologiczne, również starsze systemy, w tym rozwiązania klasy OT, a więc systemy specjalistyczne.

Na jakiej podstawie należy wobec tego wybierać priorytety i decydować, które poprawki wdrożyć w pierwszej kolejności?

Punktem wyjścia powinno być podejście oparte na ryzyku. Ocena, które podatności niosą dla organizacji największe zagrożenie, jakie jest prawdopodobieństwo ich wykorzystania i jaki byłby wpływ udanego ataku. Tymi przypadkami należy zajmować się w pierwszej kolejności.

Nie wystarczy już patrzeć wyłącznie na ocenę CVE (Common Vulnerabilities and Exposures – przyp. red.). Trzeba uwzględniać również to, czy dla konkretnej podatności istnieje exploit oraz czy jest on aktywnie stosowany. CISA niedawno zmienił swoje podejście – wycofał uniwersalny 14-dniowy termin naprawy podatności na rzecz modelu opartego na ryzyku, który może wymagać działań nawet w 3 dni dla najbardziej krytycznych przypadków.

Na tym polega dziś praktyczny wymiar ryzyka w obszarze CyberSec.

Przykładowo, w danym momencie organizacja może mieć kilka tysięcy podatności, ale tylko część z nich będzie rzeczywiście krytyczna i możliwa do wykorzystania. Może się więc okazać, że pilnej reakcji wymagać będzie tylko kilkadziesiąt luk, a taką liczbę podatności zwykle można dość sprawnie obsłużyć.

Czy to oznacza zmianę paradygmatu w zarządzaniu bezpieczeństwem?

Tak, ponieważ wymaga uczciwego spojrzenia na własne zasoby, procedury i realne możliwości działania. Organizacja powinna odpowiedzieć sobie na pytania: co jesteśmy w stanie zrobić obecnymi siłami, które działania są najważniejsze i które procedury rzeczywiście można uruchomić w sytuacji kryzysowej?

W wielu firmach istnieją setki polityk i procedur, które dobrze wyglądają podczas audytu, ale niekoniecznie pomagają, gdy trzeba szybko zareagować na atak. W obliczu ataku organizacje często zastanawiają się, którą procedurę uruchomić i przez jaki proces przejść, zamiast od razu podejmować działanie. Tymczasem regulacje mają przecież służyć zapewnieniu cyberodporności organizacji, a nie wyłącznie spełnieniu wymogów formalnych.

AI wymusza bardziej praktyczne podejście. Trzeba pamiętać o tym, że dzisiejsze zagrożenia nie dotykają wyłącznie działów IT i cyberbezpieczeństwa. Mogą zacząć się w księgowości, logistyce, obsłudze klienta, czy innym, dowolnym obszarze biznesowym.

Procedury CyberSec powinny być zrozumiałe i użyteczne dla każdego pracownika, niezależnie od stanowiska
czy poziomu wiedzy technicznej. Pracownik powinien wiedzieć, co zrobić, a dział bezpieczeństwa powinien zapewnić mu środowisko i narzędzia, które ograniczają konieczność podejmowania skomplikowanych decyzji pod presją.

No tak, ale w jaki sposób sprawnie wyeliminować choćby te kilkadziesiąt podatności w realiach dużej złożoności i wzajemnie współzależnych systemów?

Rzeczywiście, na rynku coraz częściej mówi się o kryzysie „VulnApocalypse”. Zaangażowanie modeli AI do wykrywania błędów oprogramowania i podatności przekłada się na ogromną skalę ujawnianych luk i szybkie tworzenie kolejnych exploitów. Na tyle szybkie, że przerasta możliwości ręcznego wprowadzania poprawek.

Naszą odpowiedzią na ten problem jest mechanizm wirtualnego patchowania, a więc rozwiązanie, które pozwala ograniczyć ryzyko wykorzystania podatności bez konieczności instalowania klasycznej aktualizacji udostępnionej przez producenta oprogramowania. W praktyce jest to dedykowana, działająca na poziomie hosta albo sieci, reguła IPS, a więc w mechanizmie zapobiegania włamaniom.

Sposób działania tego mechanizmu jest prosty. Gdy pojawia się podatność, przygotowujemy dla platformy dedykowaną regułę, której zadaniem jest zablokowanie próby użycia tego exploitu w konkretnym środowisku. Dzięki temu jesteśmy w stanie ochronić system do czasu, kiedy organizacja będzie w stanie wdrożyć docelową aktualizację.

Ma to szczególne znaczenie w kilku sytuacjach. Po pierwsze, wirtualne patchowanie sprawdza się wówczas, kiedy system nie jest już wspierany i nie otrzymuje aktualizacji. Jest przydatne także wtedy, gdy instalacja aktualizacji wymaga restartu serwera, na który firma nie może sobie pozwolić w danym momencie.

Wirtualna łatka może zostać uruchomiona niemal natychmiast, bez przestoju i bez istotnego wpływu na działanie środowiska. Wirtualne patchowanie daje czas na uporządkowanie działań i przeprowadzenie właściwych zmian w bezpiecznym harmonogramie.

Istotne jest także, że nasze systemy monitorują skuteczność wirtualnego patchowania – w każdym przypadku platforma sprawdza, czy organizacja faktycznie wdrożyła docelową aktualizację, i automatycznie wyłącza regułę, jeśli nie jest już potrzebna.

Co wyróżnia Państwa podejście do cyberbezpieczeństwa?

Kluczowe jest holistyczne spojrzenie na środowisko klienta. Platforma TrendAI Vision One obejmuje różne elementy organizacji: stacje robocze, serwery, aplikacje, użytkowników, pocztę elektroniczną, sieć, urządzenia mobilne i środowiska AI. Poszczególne komponenty można wykorzystywać zależnie od potrzeb, ale istotne jest ich połączenie w jeden spójny model operacyjny.

Ważnym elementem jest również zarządzanie ryzykiem. Dlatego zamiast przekazywać biznesowi informację, że istnieje kilkaset krytycznych podatności, można pokazać ich rzeczywisty kontekst: prawdopodobieństwo kompromitacji, wpływ na organizację i potencjalne konsekwencje finansowe.

To znaczy, że kwestie ryzyka biznesowego stają się istotnym elementem operacji na poziomie cyberbezpieczeństwa…

To prawda. Kluczowy jest kontekst. Ten sam serwer, z tą samą konfiguracją i tym samym systemem operacyjnym, może mieć zupełnie inny poziom ryzyka, w zależności od tego, czy jest wystawiony do Internetu, jakie dane przetwarza i jaką rolę pełni w procesach biznesowych. To właśnie kontekst biznesowy pozwala właściwie priorytetyzować działania.

Nasz moduł Cyber Risk Exposure Management pomaga również pokazać efekty pracy zespołów bezpieczeństwa. Jeśli po zmianie konfiguracji, wdrożeniu poprawek lub obsłużeniu konkretnych alertów poziom ryzyka spada, firma widzi realny rezultat tych działań. Dział bezpieczeństwa przestaje być postrzegany wyłącznie jako koszt, a zaczyna być widoczny jako obszar ograniczający ryzyko biznesowe.

Dlaczego wiedza o podziemiu przestępczym jest dziś tak istotna dla obrony?

Jeśli chcemy budować cyberodporność, musimy reagować, zanim dojdzie do ataku. Do tego potrzebne są dwa rodzaje wiedzy: pochodzące z różnych źródeł, zwalidowane i odpowiednio sformatowane informacje o zagrożeniach, w tym wiedza o tym, co dzieje się w podziemiu przestępczym, oraz aktualna wiedza o własnym środowisku i jego stanie bezpieczeństwa.

Bez tych dwóch perspektyw organizacja będzie działać reaktywnie, a system bezpieczeństwa będzie jedynie generował alerty po fakcie. Model polegający na odbieraniu alertów i reagowaniu dopiero po wykryciu incydentu przy obecnej dynamice zagrożeń jest niewystarczający. Okno czasowe między ujawnieniem podatności a jej eksploatacją kurczy się z tygodni do godzin, a coraz więcej ataków rozpoczyna się jeszcze przed wydaniem poprawki przez producenta.

Co w takim razie powinna zrobić organizacja, która nie dysponuje własnymi zespołami analitycznymi w obszarze CyberSec?

Szczególnie ważne jest wówczas zapewnienie widoczności powierzchni ataku oraz automatyzacji analizy ryzyka.
Firma powinna wiedzieć, jakie zasoby posiada, które z nich są narażone, które podatności są realnie możliwe do wykorzystania i gdzie należy zadziałać natychmiast.

Dla mniej dojrzałych organizacji korzystne jest podejście platformowe. Im więcej niezależnych narzędzi, konsol i dostawców, tym trudniej zarządzać bezpieczeństwem. Taka złożoność sama w sobie zwiększa ryzyko, szczególnie gdy firma nie ma zasobów, aby stale analizować dane z wielu źródeł.

W wielu organizacjach, na przykład w szpitalach, administratorzy mają mnóstwo obowiązków poza dbaniem o bezpieczeństwo. Utrzymują infrastrukturę, systemy medyczne i bieżące operacje. Nie potrzebują kolejnych tysięcy alertów ani dziesięciu różnych środowisk do obsługi, a jednego źródła prawdy, które wskaże, co należy zrobić tu i teraz: załatać konkretną podatność, zmienić konfigurację użytkownika, zamknąć wystawiony port czy zabezpieczyć usługę publiczną.

Bardziej dojrzałe firmy mogą wykorzystywać różne technologie, ale kluczowa pozostaje centralizacja operacyjna. Chodzi o zapewnienie jednego źródła wiedzy o powierzchni ataku i prawdopodobieństwie jej wykorzystania przez aktualne zagrożenia.

Jakie znaczenie ma w tym kontekście projekt Zero Day Initiative?

TrendAI Zero Day Initiative to największy na świecie, niezależny od dostawców, program gromadzenia informacji o lukach w zabezpieczeniach. Jest ukierunkowany na wyszukiwanie nowych podatności. Program wspierany jest przez ponad 19 000 niezależnych badaczy oraz zespoły naszych analityków zgłaszających i analizujących wykrywane luki. Dzięki temu mamy wiedzę na temat podatności nawet na kilka miesięcy, średnio 90 i więcej dni przed tym, zanim zostaną one załatane przez producentów.

Co ważne, Trend Micro Zero Day Initiative obejmuje szerokie spektrum technologii i nie ogranicza się do stacji roboczych, serwerów czy klasycznych aplikacji. Dotyka dziś także m.in. automatyki przemysłowej oraz infrastruktury inteligentnych pojazdów. O skali tego projektu najlepiej świadczy fakt, że program odpowiada za około 60% światowych skoordynowanych ujawnień podatności, w tym 57% podatności o krytycznym znaczeniu.

Ta wiedza z wyprzedzeniem przekłada się na ochronę naszych klientów – reguły bezpieczeństwa i filtry proaktywne mogą być wdrażane średnio 90 dni przed udostępnieniem poprawki producenta.

Człowiek wciąż jednak pozostaje najsłabszym ogniwem bezpieczeństwa. W jaki sposób AI może chronić użytkowników przed phishingiem czy atakami opartymi na DeepFake’ach?

Może np. analizować zachowania i wzorce komunikacji w wielu kanałach, m.in. w poczcie elektronicznej. W ramach platformy bezpieczeństwa TrendAI Vision One oferujemy też m.in. narzędzia wspierające wykrywanie DeepFake (fałszywa treść wygenerowana przez AI) w strumieniu audio i wideo. Taki mechanizm ostrzega użytkownika, że po drugiej stronie znajduje się automat lub osoba wykorzystująca zmanipulowany obraz i głos.

Tego typu narzędzia mogą działać w agencie ochronnym, który profiluje środowisko, analizuje ryzyko, zbiera telemetrię i chroni użytkownika. W przypadku poczty może zwrócić uwagę np. na to, że odbiorca wcześniej nie otrzymywał wiadomości z danego adresu, styl komunikacji nadawcy nagle się zmienił albo jego adres różni się subtelną literówką.

To ważne, ponieważ technologia może w pewnym stopniu odciążyć użytkownika, ograniczyć ryzyko popełnienia błędu i działać na zasadzie systemu wczesnego ostrzegania nie tylko dla zespołów IT czy CyberSec, ale także dla szeregowych pracowników.

Możliwe są scenariusze, w których z pozoru niewinna interakcja, taka jak zaakceptowanie zaproszenia w kalendarzu, staje się początkiem ataku. W jednym z analizowanych przez nas przypadków wektor ataku prowadził przez zaproszenie kalendarzowe uruchamiane tylko w określonych warunkach. W konsekwencji agent AI przejął kontrolę nad inteligentnym mieszkaniem, wyłączył światła i ogrzewanie. To pokazuje, że granice między bezpieczeństwem prywatnym a firmowym stają się coraz mniej wyraźne. Atakujący mają coraz większą wyobraźnię, zwłaszcza gdy stosują AI.

Co z bezpieczeństwem usług AI wykorzystywanych w firmach?

Jednym z największych problemów związanych z użyciem sztucznej inteligencji w zastosowaniach biznesowych jest tzw. zjawisko Shadow AI. Pracownicy naturalnie chcą ułatwiać sobie pracę, więc sięgają po publiczne narzędzia AI, nawet jeśli organizacja formalnie ich nie zatwierdziła. Shadow AI występuje dziś praktycznie w każdej firmie.

Samo wykorzystanie publicznego modelu nie musi być problemem, o ile nie przetwarza się w nim danych poufnych. W praktyce jednak pracownik może wkleić do narzędzia dokument z księgowości, dane biznesowe czy materiał przeznaczony dla zarządu, aby szybciej przygotować raport. W przypadku publicznych modeli istnieje ryzyko, że przekazane informacje zostaną wykorzystane w sposób, którego organizacja nie kontroluje. Atakujący mogą próbować pozyskać je poprzez odpowiednio konstruowane prompty omijające mechanizmy zabezpieczające. W rezultacie dochodzi do wycieku danych.

Moim zdaniem nie da się tego problemu wyeliminować zakazami. Można jednak kontrolować sposób użycia modeli i monitorować, czy użytkownik nie przesyła do publicznych narzędzi danych poufnych, plików lub treści objętych ograniczeniami. Organizacje rozwijające lub wykorzystujące własne środowiska AI powinny uwzględniać bezpieczeństwo modeli, ich architektury oraz interakcji użytkowników z modelem już na wczesnym etapie.

W jaki sposób kontrolować korzystanie z publicznych modeli AI bez całkowitego zablokowania takich usług?

Jednym ze sposobów jest zastosowanie rozwiązań działających na poziomie sieci, np. w formie bramy (proxy), przez którą przechodzi ruch użytkowników. Tego typu mechanizmy, dostępne w ramach platformy TrendAI Vision One, pozwalają monitorować wykorzystanie publicznych narzędzi AI, określać zasady dostępu do nich oraz blokować działania, które mogą prowadzić do wycieku danych.

Przykładowo możliwe jest dopuszczenie dostępu wyłącznie dla konkretnych użytkowników do konkretnych usług, ograniczenie możliwości przesyłania określonych dokumentów lub nawet wykluczenie wskazanych fraz. Rozwiązanie może też wykrywać próby przesyłania informacji wskazujących na wykorzystanie narzędzi niezgodnie z polityką organizacji lub przepisami. Samo narzędzie poprzez zwiększenie widoczności wykorzystania inwentaryzuje i kontekstualizuje narzędzia AI, a lepsza widoczność zapewnia właściwą ocenę ryzyka użycia tych narzędzi.

Jak należy dziś rozumieć cyberodporność?

Cyberodporność oznacza uznanie, że nie da się zagwarantować 100-proc. bezpieczeństwa. Oczywiście organizacja musi aktualizować systemy, zmniejszać powierzchnię ataku i wdrażać mechanizmy ochronne. Jednocześnie powinna być przygotowana na sytuację, w której część zabezpieczeń zostanie przełamana. Wiele firm prowadzi działania hardeningowe, przeglądy środowiska i audyty bezpieczeństwa. Problem w tym, że zazwyczaj są to tylko działania okresowe. Tymczasem atakujący działają nieustannie i mają coraz lepsze narzędzia.

Z tego powodu zarządzanie ryzykiem CyberSec powinno odbywać się w trybie ciągłym. Pojawienie się nowego użytkownika, zmiana jego uprawnień, udostępnienie nowej usługi czy wystawienie systemu do Internetu powinny automatycznie uruchamiać analizę ryzyka. Nie może to być proces oparty wyłącznie na ankietach, formularzach i okresowej analizie opisowej. Potrzebne są narzędzia, które stale zbierają informacje o środowisku, rozpoznają jego zasoby, analizują zagrożenia i odwzorowują je na rzeczywistą architekturę organizacji.

Od czego zacząć działania zmierzające do poprawy cyberodporności?

Warto zacząć od automatycznej analizy ryzyka, a więc narzędzi, które na bieżąco pokazują, gdzie firma ma największe problemy, co powinno być priorytetem i jakie działania realnie obniżą ryzyko. Takie podejście zmienia
również istotę współdziałania w organizacji. Zarządzanie ryzykiem w obszarze CyberSec nie jest wyłącznie zadaniem IT i bezpieczeństwa. To właściciel biznesowy systemu odpowiada za ryzyko, jego akceptację oraz zapewnienie budżetu na cyberbezpieczeństwo. Dział bezpieczeństwa pełni funkcję nadzorczą i koordynacyjną, ale odpowiedzialność za cyberodporność spoczywa na firmie.

Na jakie wsparcie mogą liczyć Państwa klienci?

Do problematyki cyberbezpieczeństwa podchodzimy w sposób kompleksowy. Z klientami współpracujemy już od etapu projektowania architektury bezpieczeństwa. Jesteśmy w stanie wspólnie określić, jakie klasy narzędzi są potrzebne na danym etapie rozwoju organizacji, z czym należy je zintegrować i jak zbudować środowisko, które nie będzie kolejną odizolowaną wyspą. Nasze wsparcie może obejmować również usługi związane z testowaniem odporności firmy, pomocy w obsłudze incydentu, zatrzymaniu ataku i zebraniu materiału do analizy powłamaniowej, a także całodobowym monitorowaniu środowiska.

W ramach TrendAI wychodzimy z założenia, że platforma bezpieczeństwa powinna stać się częścią całego ekosystemu organizacji. Nie chodzi zatem jedynie o dostarczenie rozwiązania. Ważniejsze jest zapewnienie, aby było ono właściwie wykorzystywane i stale dostosowywane do zmieniających się zagrożeń. Narzędzie pozostawione bez rozwoju i bez integracji z bieżącą wiedzą o zagrożeniach po roku może już nie odpowiadać potrzebom organizacji.

W strukturze firmy Trend Micro powstała nowa jednostka biznesowa – TrendAI. Jakie jest jej znaczenie?

Trend Micro jest firmą działającą od ponad 38 lat. Nasza specjalizacja się nie zmienia, ale wraz z rosnącym znaczeniem sztucznej inteligencji rozwijamy zarówno rozwiązania chroniące środowiska AI, jak i technologie AI wspierające klientów w walce z zagrożeniami. Zdajemy sobie też sprawę, że sprawne działanie wymaga specjalizacji. Dlatego dział Trend Micro obsługujący przedsiębiorstwa (Enterprise) został przekształcony w TrendAI.

TrendAI redefiniuje bezpieczeństwo poprzez przejście od reaktywnego ścigania zagrożeń do proaktywnego zrozumienia kontekstu, w którym działają systemy. W świecie napędzanym AI okazuje się, że obserwacja interakcji między modelami i analiza ich intencji są bardziej wartościowe niż tradycyjne detektory. To oznacza zmianę roli bezpieczeństwa – z narzędzia reagującego na ataki staje się ono warstwą nadzorczą, która reguluje autonomię systemów i zapewnia, że działają zgodnie z celami organizacji.

Wróćmy do zastosowania AI w silnikach cyberbezpieczeństwa. Dlaczego integracja różnych źródeł danych ma tak duże znaczenie?

Agentowe systemy AI są najskuteczniejsze w identyfikowaniu anomalii wtedy, gdy otrzymują różnorodne dane. Chodzi o dostarczanie informacji, które wzajemnie budują kontekst. Jeżeli system otrzymuje dane z różnych części firmy, może lepiej rozpoznawać zależności i nietypowe zachowania. Należy jednak zachować umiar, bo nadmiar danych może obniżyć jakość działania modelu AI i zwiększyć ryzyko błędnych wniosków.

Scentralizowane dane to możliwość pokazania realnej sytuacji bezpieczeństwa w całej organizacji i w jednym środowisku pracy. Ale skoro platforma ma być częścią ekosystemu, istotna jest też integracja w drugą stronę – nasza platforma dostarcza wskaźniki ataku (IoC – Indicators of Compromise) do systemów zewnętrznych. To zapewnia możliwość automatyzacji reakcji nie tylko wewnątrz platformy, lecz także w innych systemach  wykorzystywanych w firmie. Im lepiej połączone są elementy ekosystemu bezpieczeństwa, tym mniej ręcznej pracy, przechodzenia między konsolami i powtarzalnych operacji. Wszystko to zwiększa skuteczność działań obronnych.