Jak obronić się przed deepfake? Naukowcy z IDEAS NCBR znaleźli sposób

Opracowali prototyp oprogramowania, które pozwoliłby na bezpieczniejsze rozmowy online. Mowa o rozwiązaniu ProvenView, które docelowo miałoby być łatwe w skalowaniu, tanie i nie wymagałoby zaufania pośrednikowi, jak w przypadku podpisów elektronicznych. Bazuje ono na kryptograficznej technice Zero-Knowledge Proofs (ZKP).

Od kilku lat coraz częściej słyszymy o przypadkach oszustw wykorzystujących deepfake. W Polsce, w marcu 2024 roku, fałszywe wideo z udziałem Rafała Brzoski, CEO InPostu, Andrzeja Dudy czy Roberta Lewandowskiego promowały “programy inwestycyjne​” służące wyłudzaniu pieniędzy. W styczniu br. pracownik banku w Hong Kongu wypłacił 25 milionów dolarów oszustom, którzy podczas wideokonferencji podszyli się pod dyrektora finansowego firmy. Deepfake’i stają się coraz bardziej zaawansowane, a ich wykrycie coraz trudniejsze.

W odpowiedzi na te zagrożenia, naukowcy z IDEAS NCBR – ośrodka badawczo-rozwojowego w obszarze AI – stworzyli eksperymentalny projekt o nazwie ProvenView. Twórcami rozwiązania są postdoc Shahriar Ebrahimi i doktorantka Parisa Hassanizadeh. Badacze z Iranu pracujący w grupie „Bezpieczeństwo systemów i prywatność danych” kierowanej przez prof. Stefana Dziembowskiego. Ich rozwiązanie nagrodzono podczas hackathonu ZK Hack Kraków, w maju 2024 roku, w kategorii „best proof of provenance project”.

Tajemnice ZKP

ProvenView to prototypowe oprogramowanie, które wykorzystuje Zero-Knowledge Proofs (ZKP) do autoryzacji, bez konieczności zaufania pośrednikowi. Na czym polega ZKP? To technika kryptograficzna, która pozwala na udowodnienie prawdziwości pewnej informacji bez ujawniania jakichkolwiek szczegółów o niej.

Oto uproszczony przykład działania: w pierwszym kroku autor oryginalnego wideo tworzy cyfrowy dowód jego autentyczności. To taki cyfrowy zapis, który mówi: “To wideo jest prawdziwe i ja je stworzyłem”. Oprogramowanie umożliwiające taki zapis może być wbudowane w aplikację do nagrywania wideo lub być osobnym programem. Podrobienie dowodu autentyczności opartego na ZKP jest niezwykle trudne ze względu na użyte, zaawansowane mechanizmy kryptograficzne. W drugim kroku, kiedy ktoś chce sprawdzić autentyczność wideo, nie musimy mu pokazywać całego materiału. Zamiast tego, pokazujemy mu cyfrowy dowód. I tu pomaga Zero-Knowledge Proofs – dzięki zaawansowanej matematyce, dowód ten można sprawdzić bez potrzeby oglądania samego wideo.

“Technologia ZKP jeszcze dekadę temu uważana była za dziedzinę wyłącznie teoretyczną, bliższą czystej matematyce niż zastosowaniom informatyki. W ostatnich latach byliśmy świadkami dramatycznej zmiany w tej dziedzinie. Stało się to dzięki wielu przełomowym usprawnieniom tej technologii, a także dzięki jej popularyzacji za sprawą blockchaina. Rozwiązanie ProvenView stanowi jeszcze jeden spektakularny przykład tego, jak ZKP może być wykorzystane w walce z zagrożeniami współczesnego świata cyfrowego” – skomentował prof. dr hab. Stefan Dziembowski, lider grupy badawczej “Bezpieczeństwo systemów i prywatność danych” w IDEAS NCBR.

Autentyczność wideo na wyciągnięcie ręki

ProvenView może znaleźć zastosowanie zarówno w codziennych interakcjach online, jak i w ochronie treści twórców. Przykładowo, po zakończeniu spotkania online, użytkownik będzie mógł sprawdzić, czy wideo jego rozmówcy rzeczywiście pochodziło z jego kamery internetowej. Ale to nie koniec jego zastosowań.

“To rozwiązanie może się przydać użytkownikom indywidualnym, którzy mogliby go użyć do autoryzacji spotkań online. Jak i twórcom treści, którzy mogliby wzmocnić ochronę swojego wizerunku opublikowanego w filmie na YouTube przed kradzieżą i wykorzystaniem np. w pornografii” – powiedział Shahriar Ebrahimi, postdoc w IDEAS NCBR. “Zaletą ZKP jest to, że osoba tworząca dowód autentyczności nie musi mieć zewnętrznych potwierdzeń zaufania, jak podpis elektroniczny. Każdy może generować takie dowody autentyczności na swoim własnym urządzeniu. Nazywa się to generowanie dowodów po stronie klienta. Dzięki temu rozwiązanie jest bardzo elastyczne i może obsłużyć wiele osób naraz, bez obciążania sieci. Niezależnie od tego, czy dowody generuje 10 osób, 10 tysięcy, czy nawet 10 miliardów osób, obciążenie sieci się nie zmienia” – dodał.

Dalszy rozwój projektu

ProvenView to rozwiązanie w fazie eksperymentalnej, które nie jest jeszcze gotowe do wdrożenia. Projekt w obecnym stadium to swoisty dowód słuszności koncepcji (proof-of-concept), że takie metody mogą być użytkowane w praktyce.

Obecnie dowody autentyczności można generować dopiero po zakończeniu tworzenia wideo. Dodatkowo, udowodnienie autentyczności jest bardzo czasochłonne i nie może być wykonane online, w czasie rzeczywistym.

“Przy obecnie dostępnej technologii możemy najszybciej udowodnić autentyczność wideo o niskiej liczbie klatek na sekundę (kl/s). Załóżmy, że oryginalne wideo z spotkania było nagrywane w 30 kl/s. Najpierw bardzo szybko sprawdzamy, czy w wersji w odcieniach szarości z 2 kl/s występuje jakaś nieprawidłowa aktywność. Później, dla większej pewności, sprawdzamy autentyczność wideo kolorowego. Ostatecznie dowód byłby dostępny na przykład godzinę po odbyciu rozmowy” – podsumował Shahriar Ebrahimi.

Dzięki dalszym pracom nad wydajnymi dowodami rekurencyjnymi, naukowcy mają nadzieję, że w przyszłości możliwe będzie udowodnienie autentyczności wideo w czasie rzeczywistym.