Jak wykryć deep fake? Zdaniem Intela odpowiedzią nie są jedynie surowe dane, ale to, co czyni nas ludźmi i odróżnia od robotów: krew. Firma opracowała właśnie pierwszy na świecie detektor deep fake’ów działający w czasie rzeczywistym, który analizie poddaje przepływ krwi pod skórą twarzy. FakeCatcher wykazał się w testach niezwykle wysoką skutecznością, a Intel ma nadzieję wdrożyć rozwiązanie w praktyce, bo na materiały deep fake nabieramy się jak dzieci.
Deep fake to nie tylko narzędzie wykorzystywane do dezinformacji i szantażu, ale także coraz częściej problem celebrytów i technologia używana przez cyberprzestępców do przeprowadzania różnego rodzaju oszustw. W maju bieżącego roku na YouTube pojawiło się wideo przedstawiające Elona Muska reklamującego kryptowaluty. Z kolei fałszywy Keanu Reeves od kilku miesięcy podbija TikToka.
Dzięki rozwojowi technologii deep fake’i ewoluowały, stając się nie tylko kilkuminutowymi filmami, ale także całymi transmisjami na żywo. Z tym zjawiskiem chce walczyć m.in. Intel, który stworzył FakeCatcher. FakeCatcher to detektor deep fake’ów w czasie rzeczywistym, który do odróżnienia prawdziwego człowieka od obrazu wygenerowanego komputerowo wykorzystuje przepływ krwi pod skórą. W testach przeprowadzonych przez inżynierów Intela FakeCatcher wykazał się 96-procentową skutecznością.
Sztuczna inteligencja do walki z deep fake. Fałszywki zdradzi przepływ krwi
W zdecydowanej większości przypadków istniejące już detektory deep fake’ów skupiają się na surowych danych i wytycznych, które wskazują na nieautentyczność obrazu. W przypadku technologii opracowanej przez Intela, sztuczna inteligencja FakeCatchera szuka w wideo lub transmisji na żywo autentycznych wskazówek, które świadczą o tym, iż przedstawiona na wideo osoba nie jest człowiekiem, np. sposób w jaki osoba spogląda w obiektyw.
Jednak FakeCatcher skupia się przede wszystkim na jednym aspekcie: przepływie krwi. Nieustannie krążąca w naszym organizmie krew przepływa również pod skórą twarzy, zależnie od tempa pracy serca zmienia się przepływ krwi, a ten z kolei zmienia kolor żył, który w efekcie wpływa na ostateczny kolor skóry twarzy. FakeCatcher analizuje w czasie rzeczywistym kolory twarzy, a następnie dane te są przetwarzane przez algorytmy na mapy przestrzenno-czasowe. Mechanizmy głębokiego uczenia pozwalają sztucznej inteligencji na wykrycie czy film przedstawia prawdziwego człowieka na podstawie owych map przestrzenno-czasowych.
Zdaniem Intela, FakeCatcher ma kilka potencjalnych zastosowań. Firma wymienia m.in. platformy społecznościowe, które mogłyby wykorzystywać detektor do analizy treści publikowanych w serwisach. Z kolei organizacje prasowe mogłyby używać FakeCatchera do analizy treści i tym samym przyczynić się do zredukowania zjawiska publikowania tzw. fake newsów.
Deep fake’i są problemem większym, niż myślisz. Ufamy im bardziej niż ludziom.
Zgodnie z wynikami eksperymentów przeprowadzonych przez uczonych z Uniwersytetu w Sydney na osobach, którym wyświetlono twarze przedstawiające zarówno materiały deep fake, jak i prawdziwych ludzi, nasze umysły podświadomie są w stanie odróżnić zdjęcie prawdziwej osoby od tego wygenerowanego komputerowo. Australijskim naukowcom udało się wykazać, iż przy poproszeniu o wskazanie deep fake skuteczność uczestników wynosiła jedynie 37 procent. Z kolei podczas etapu, w którym uczestnicy mieli jedynie pomyśleć, który z przedstawionych obrazów jest fałszywy, ich skuteczność wzrastała do 54 procent.
Z kolei badanie opublikowane w lutym tego roku w czasopiśmie Proceedings of the National Academy of Sciences udowadnia, iż twory sztucznej inteligencji są w naszych oczach bardziej godne zaufania niż twarze należące do prawdziwych ludzi.
W eksperymencie uczeni poprosili 315 osób o odróżnienie prawdziwych zdjęć od deep fake’ów, bez uprzedniego przygotowania. Z kolei grupa 219 osób wykonała to samo zadanie z wykorzystaniem wskazówek udzielonym im przez naukowców. Z kolei trzecia grupa miała ocenić w skali od 1 (bardzo niewarte zaufania) do 7 (bardzo godne zaufania) przedstawione im zdjęcia. Wszystkim trzem grupom przedstawiono zestaw 128 zdjęć przedstawiających zarówno deep fake’i jak i prawdziwe zdjęcia.
Ku zaskoczeniu naukowców, pierwsza grupa wykazała się skutecznością w odróżnianiu deep fake’ów na poziomie 48,2 procent, a druga aż 59 procent. Ponadto w trzeciej grupie większym zaufaniem cieszyły się deep fake’i, osiągając średni wynik 4,82, podczas gdy zdjęcia prawdziwych ludzi cieszyły się zaufaniem na poziomie 4,48 punktów.
