Technologia deepfake rozwija się błyskawicznie, a jednym z jej najgroźniejszych zastosowań jest tworzenie pornografii bez zgody osób przedstawionych w materiałach. W 2023 roku w sieci opublikowano ponad 95 tys. deepfake’owych filmów pornograficznych – to o 550% więcej niż w 2019 roku. Jednocześnie, aż 98% wszystkich deepfake’ów dostępnych online to treści pornograficzne, wskazuje raport „State of Deepfakes 2023”. Mówimy o zjawisku masowym i zautomatyzowanym, stanowiącym formę cyfrowej przemocy.
Dziś do stworzenia takiego filmu wystarczy jedno zdjęcie i darmowe narzędzie online. Cały proces może zająć zaledwie 30 minut. Efektem są tysiące materiałów trafiających codziennie do internetu – bez zgody i często nawet wiedzy osób, które w nich występują. Jak pokazuje wspomniany raport, nawet 7 z 10 największych serwisów pornograficznych zawiera tego typu treści, które wygenerowały ponad 303 miliony odsłon.
Nie tylko celebrytki
Choć najczęściej ofiarami są kobiety z branży rozrywkowej (94% przypadków), zagrożeni są również zwykli użytkownicy mediów społecznościowych. Wystarczy publiczny profil, kilka zdjęć i obecność w wyszukiwarce, by ktoś wykorzystał nasz wizerunek w fałszywym filmie pornograficznym. Ofiarami padają też dzieci – szczególnie w kontekście zjawiska sharentingu.
„Nie potrzeba już popularności ani rozpoznawalności, by stać się ofiarą. Wystarczy publiczny profil na Instagramie, kilka zdjęć dostępnych w sieci i obecność w wyszukiwarce. Każda osoba, która dzieli się swoim wizerunkiem w Internecie, może zostać skopiowana i umieszczona w fałszywym, pornograficznym kontekście” – komentuje Kamil Sadkowski, analityk laboratorium antywirusowego ESET.
Zorganizowany i zmonetyzowany proceder
Za rozwojem deepfake porn stoją konkretne społeczności, platformy i narzędzia – często działające jawnie. Przykładem może być serwis Civitai, który hostował tysiące modeli AI umożliwiających generowanie realistycznych filmów z udziałem prawdziwych osób. Po presji ze strony operatorów płatności modele te usunięto, ale szybko pojawiły się na innej platformie – Hugging Face. Choć ten renomowany serwis deklaruje etyczne zasady, nie blokuje jednoznacznie modeli wykorzystywanych do tworzenia deepfake’ów pornograficznych.
„Przykład Hugging Face pokazuje, jak trudno zatrzymać krążenie niebezpiecznych narzędzi w przestrzeni cyfrowej. Gdy jedna platforma ulega presji i próbuje działać odpowiedzialnie, inna staje się mimowolnym ogniwem w łańcuchu przemocy. W praktyce oznacza to, że narzędzia do cyfrowego naruszania czyjejś cielesności są wciąż dostępne – wystarczy wiedzieć, gdzie ich szukać” – mówi Kamil Sadkowski.
Jak się chronić i jak reagować?
Zagrożeniu można przeciwdziałać, potrzebne są jednak skoordynowane działania:
- Regulacje i egzekwowanie prawa – wiele przepisów już istnieje, ale są stosowane zbyt rzadko lub nieskutecznie.
- Międzynarodowa współpraca – platformy i narzędzia AI działają globalnie, a prawo nie nadąża za technologią.
- Edukacja cyfrowa – zarówno dzieci, jak i dorośli muszą rozumieć, jak chronić swój wizerunek online.
- Technologiczne wsparcie – firmy powinny inwestować w narzędzia wykrywające treści generowane przez AI oraz szkolić zespoły tworzące modele.
Do tego ważne jest stosowanie podstawowych zasady cyfrowej higieny:
- Korzystaj z silnych haseł i uwierzytelniania dwuetapowego.
- Ustaw profily społecznościowe jako prywatne.
- Nie publikuj zdjęć twarzy i danych wrażliwych.
- Uważaj, komu udostępniasz treści i kto może mieć do nich dostęp.
- Sprawdzaj uprawnienia aplikacji, z których korzystasz.
Potrzebna jest też zmiana kulturowa – wciąż zbyt często traktujemy bowiem deepfake porn jako technologiczną ciekawostkę, a nie realną formę przemocy. Tymczasem ofiar jest coraz więcej i są coraz bliżej nas. Nawet 73% Amerykanów zgłosiłoby deepfake pornografię na policję tylko wtedy, gdy ofiarą byłby ktoś im bliski. To pokazuje, jak bardzo brakuje społecznej empatii.
