Fałszywie prawdziwe– deepfake jako narzędzie dezinformacji

Zdjęcie: Fałszywie prawdziwe– deepfake jako narzędzie dezinformacji

To, co jeszcze kilka lat temu mogło być uznane za science fiction, dziś staje się częścią codzienności. Wraz z dynamicznym rozwojem technologii, w tym sztucznej inteligencji, ludzkość przekracza granice, które dotychczas wydawały się niemożliwe do osiągnięcia. Jednym z najbardziej fascynujących, ale jednocześnie niebezpiecznych zastosowań generatywnej sztucznej inteligencji jest deepfake.

Deepfake to zaawansowana forma manipulacji multimediów, opierająca się na głębokim uczeniu się maszynowym, która pozwala na modyfikację posiadanych materiałów lub też tworzenie zupełnie nowych, syntetycznych treści. Ta technologia umożliwia kreowanie realistycznych obrazów, materiałów audio i wideo, których prawdziwość jest trudna do zweryfikowania przez ludzkie oko . Warto zaznaczyć, iż w tej chwili deepfake to coś więcej niż tylko instrument edycji multimediów. Zmieniając sposób, w jaki postrzegamy rzeczywistość, staje się on narzędziem zarówno fascynującym, jak i przerażającym.

Fenomen deepfake’ów rozpoczął się w 2017 roku, kiedy grupa użytkowników serwisu internetowego Reddit zaczęła tworzyć i rozpowszechniać filmy pornograficzne z wklejonymi twarzami celebrytów . Dzisiaj celami takich zabiegów są nie tylko osoby powszechnie znane, ale także zwykli użytkownicy portali społecznościowych, na których ci chętnie publikują zdjęcia lub nagrania ze swoim wizerunkiem. Możliwość tworzenia fałszywych, chociaż niezwykle realistycznie wyglądających treści sprawiła, iż sextortion jest coraz większym zagrożeniem. Wspomniane zjawisko opiera się na szantażu polegającym na groźbie opublikowania treści pornograficznych, na których przedstawiona jest ofiara. Za sprawą odpowiednich narzędzi i materiałów pozyskanych wcześniej przestępca falsyfikuje dane treści . Należy pamiętać, iż aby być bezpiecznym w sieci i chronić się przed deepfake’ami, trzeba dbać o skuteczną ochronę swojego wizerunku.

Technologia deepfake może zostać wykorzystana w celu podszycia się pod wybraną przez użytkownika osobę (np. członka rodziny, współpracownika, celebrytę, a choćby postacie ważne w świecie polityki), czego następstwem może być oszustwo w celu wyłudzenia pieniędzy lub ważnych danych. Stanowi to duże zagrożenie ze względu na możliwość manipulacji multimediów w czasie rzeczywistym (real time deepfake) , np. w trakcie rozmowy telefonicznej, wideo rozmowy lub transmisji live na portalu streamingowym. W przypadku, gdy ofiarami takiego działania stają się osoby piastujące stanowiska państwowe, pojawia się zagrożenie bezpieczeństwa państwa (np. chronionych informacji). Należy podkreślić, iż dzięki coraz bardziej zaawansowanym technikom ofiary takich działań nie są w stanie rozpoznać oszusta podszywającego się pod ważnego polityka . Wykorzystywanie wizerunku popularnych osób dzięki technik głębokiego uczenia się stosuje się również w reklamie. Niekiedy aktor z różnych względów nie może pojawić się na planie spotu i konieczne jest skorzystanie z dobrodziejstw technologii, tak jak w przypadku reklamy rosyjskiej sieci telekomunikacyjnej MegaFon z Bruce’em Willisem . Niestety, zdarzają się przypadki, w których wykorzystywanie wizerunku osób w celu promowania produktów lub usług odbywa się bez zgody osoby występującej w reklamie. W takiej sytuacji znalazła się np. aktorka Jennifer Aniston, która rzekomo rozdawała 10 tys. macbooków wybranym szczęśliwcom.

Użytkownicy nowych mediów często w ramach rozrywki korzystają z możliwości modyfikacji i tworzenia zupełnie nowych treści w celu ośmieszania i nadszarpnięcia reputacji (zazwyczaj znanej) jednostki lub grupy. Efektem takich działań są zdjęcia lub filmy będące swojego rodzaju memami bądź parodiami, które stawiają wybrane postacie w niekorzystnym świetle. Ofiarami takich zabiegów mogą być politycy, czego przy kładem jest deepfake przedstawiający Emmanuela Macrona zbierającego śmieci lub protestującego przeciwko własnej reformie emerytalnej, która w 2023 roku wywołała wśród francuskiego społeczeństwa duże oburzenie . Zdarzają się również sytuacje, w których autorzy publikują sfabrykowane treści opatrzone informacją o tym, iż wygenerowano je dzięki sztucznej inteligencji, ale użytkownicy udostępniający te materiały przedstawiają je jako prawdziwe (np. deepfake’i ukazujące przedwczesne aresztowanie Donalda Trumpa) .

Technologia deepfake to potężne narzędzie, które może posłużyć do wywołania niepokoju czy też chaosu informacyjnego wśród społeczeństwa. Jej zastosowanie stwarza szczególne zagrożenie w czasie toczących się konfliktów czy też trudnych sytuacji spowodowanych epidemią lub katastrofą naturalną. Dezinformator może spreparować wypowiedzi liderów politycznych, stworzyć materiały przedstawiające nieprawdziwe wydarzenia (np. ataki terrorystyczne), rozpowszechniać i napędzać teorie spiskowe, a także kreować postacie nieistniejących ekspertów w celu wywołania określonych reakcji lub/i działań .

Mimo swoich licznych pozytywnych za stosowań (np. w edukacji, dubbingu, marketingu, a choćby dziennikarstwie) pojęcie deepfake’u nasuwa nam raczej pejoratywne skojarzenia, związane z nadużyciami i dezinformacją. Należy jednak pamiętać, iż technologia jest jedynie narzędziem w rękach człowieka – to od niego zależy, w jaki sposób ją wykorzysta.

Falszywie-prawdziwe-–-deepfake-jako-narzedzie-dezinformacji