23% Polaków pracujących przy komputerze padło już ofiarą materiałów sfałszowanych z wykorzystaniem sztucznej inteligencji, a niemal co dziesiąty zetknął się z próbą oszustwa wykorzystującą cyfrowo sklonowany głos lub wizerunek współpracownika. Mimo rosnącej skali zagrożenia wiedza o deepfake’ach praktycznie nie rośnie – wynika z raportu „Cyberportret polskiego biznesu” przygotowanego przez ESET i DAGMA Bezpieczeństwo IT.
Deepfake przestał być technologiczną ciekawostką i staje się jednym z narzędzi wykorzystywanych przez cyberprzestępców do wyłudzania danych oraz pieniędzy. Problemem jest jednak nie tylko rosnąca liczba incydentów, ale także niski poziom świadomości użytkowników. Aż 57% badanych nadal nie wie, czym jest deepfake – niemal tyle samo co rok wcześniej (58%). To pokazuje, że rozwój technologii wyprzedza wzrost wiedzy o zagrożeniach, jakie ze sobą niesie.
Większość nie ufa własnej ocenie
Badanie pokazuje, że pracownicy coraz częściej mają świadomość zagrożeń, ale nie wierzą, że potrafią je rozpoznać. 70% respondentów nie jest przekonanych, że odróżni treść wygenerowaną przez AI od autentycznej, a 57% obawia się kradzieży tożsamości z wykorzystaniem sztucznej inteligencji.
„Zbliżamy się do momentu, gdy głos rozmówcy po drugiej stronie telefonu może być cyfrowym klonem. Niezależnie od poziomu zaawansowania technologii zasada pozostaje ta sama: każde działanie mające wpływ na bezpieczeństwo danych należy potwierdzić u źródła” – mówi Dawid Koziorowski, Offensive Cybersecurity Team Leader w DAGMA Bezpieczeństwo IT.
Skalę problemu pokazują także wydarzenia z ostatnich tygodni. Otóż Google zintegrował z Google Earth generator obrazów Nano Banana 2, umożliwiający tworzenie fikcyjnych obrazów na podstawie prawdziwych zdjęć satelitarnych i modeli 3D. Jednak po tym, jak użytkownicy zaczęli publikować wygenerowane materiały przedstawiające nieistniejące zdarzenia, m.in. zawaloną wieżę Eiffla, firma w ciągu niespełna 48 godzin wycofała wspomnianą funkcję, zapowiadając wdrożenie silniejszych zabezpieczeń.
AI Act pomoże, ale nie zatrzyma oszustów
Od 2 sierpnia zaczęły obowiązywać kolejne przepisy unijnego AI Act, które nakładają m.in. obowiązek oznaczania treści generowanych przez sztuczną inteligencję oraz zwiększają wymagania dotyczące transparentności systemów tworzących deepfake’i. Eksperci ESET podkreślają jednak, że regulacje nie powstrzymają cyberprzestępców. Mogą natomiast zwiększyć świadomość użytkowników i przyzwyczaić ich do weryfikowania pochodzenia treści.
„Do krajobrazu zagrożeń, który nieustannie się zmienia, dochodzi fakt, że phishing generowany przez AI i deepfaki przestały być scenariuszami hipotetycznymi. Dlatego właściwe podejście to połączenie lepszej detekcji, uważności na nietypowe wzorce komunikacji i, a być może przede wszystkim, zadbania o to, żeby pracownicy wiedzieli, na co zwracać uwagę. Czynnik ludzki nadal ma ogromne znaczenie” – podsumowuje Juraj Jánošík, ESET VP of Artificial Intelligence.
