Wprowadzenie
W niniejszej publikacji zamierzam poruszyć tematykę zjawiska deepfake jako zagrożenia dla prawidłowego toku procesu wyborczego w kontekście nadchodzących wyborów parlamentarnych i samorządowych.
Celem artykułu jest poszerzenie świadomości związanej z działaniem technologii Deepfake oraz zwrócenie uwagi na możliwości manipulacji opinii publicznej poprzez wykorzystanie zaawansowanych metod inżynierii społecznej.
Definicja Deepfake
„Choć definicje mogą się różnić, deepfake najczęściej opisuje fałszerstwa tworzone przy użyciu technik uczenia maszynowego (ML) - jednej z dziedzin sztucznej inteligencji (AI), zwłaszcza generatywnych sieci przeciwników (GAN). W procesie GAN, dwie sieci neuronowe są trenowane w rywalizacji ze sobą. Pierwsza sieć, zwana generatorem, ma za zadanie tworzenie fałszywych danych - takich jak zdjęcia, nagrania dźwiękowe czy materiały wideo - które odzwierciedlają adekwatności oryginalnego zestawu danych. Druga sieć, zwana dyskryminatorem, ma za zadanie identyfikację fałszywych danych. Na podstawie wyników każdej iteracji, sieć generatora dostosowuje się, aby tworzyć coraz bardziej realistyczne dane. Sieci kontynuują rywalizację - często przez tysiące lub miliony iteracji - aż generator poprawi swoje osiągnięcia na tyle, iż dyskryminator nie jest już w stanie odróżnić prawdziwych danych od fałszywych.” (1)
Potencjał technologiczny Deepfake
Opisywana technologia ma ogromny potencjał do tworzenia treści multimedialnych, które wydają się autentyczne, ale są w rzeczywistości fałszerstwem, ukierunkowanych na szerzenie dezinformacji oraz manipulacji.
Deepfake jest w stanie dokładnie odwzorować wygląd i ruchy twarzy, mimikę, gesty i głos osoby, która występuje na nagraniu. Działanie to może obejmować „podstawienie” twarzy jednej osoby na ciele innej, zmianę słów wypowiedzianych przez osobę na nagraniu lub stworzenie całkowicie fikcyjnych wystąpień i wypowiedzi.
Przykłady znanych deepfake'ów:
2022 r. i dotyczył zakończenia negocjacji między Rosją a Ukrainą, skutkującym osiągnięciem porozumienia w sprawie uznania granic Ukrainy, w tym obwodów Donieckiego i Ługańskiego. Dodatkowo, z treści nagrania możemy dowiedzieć się, iż wspólnie z USA i UE zostanie utworzona duża fundacja, która będzie służyć odbudowie infrastruktury w tych regionach. Ponadto miało również dojść do podpisania pięcioletniego planu dotyczącego przywrócenia niepodległości Krymu jako republiki
w składzie Ukrainy. Oczywiście nic takiego nie miało nigdy miejsca. (4)
Potencjalne zagrożenia dla zabezpieczenia prawidłowego toku wyborczego
w kontekście zagrożeń płynących z wykorzystania technologii Deepfake
Powyżej podane przykłady deepfake'ów, obejmujących wypowiedzi wpływowych polityków w przejrzysty sposób ukazują możliwości tej AI w kontekście wpływania dzięki prostych metod inżynierii społecznej na grupy odbiorców, do których przekaz jest skierowany. Wykorzystanie tej technologii, jak pokazują prezydenckie wybory w Turcji to nowy element prowadzonych kampanii wyborczych.
Warto zwrócić uwagę, iż w dobie szybkiego rozwoju AI jej wykorzystanie staje się ona coraz większym wyzwaniem dla uczciwości procesu wyborczego. W prowadzonych kampaniach deepfake może odpowiadać za szerzenie dezinformacji, czy też tworzenie fałszywego wizerunku polityków, wpływając tym samym na ich odbiór społeczny. Powyższe działania stoją w sprzeczności z demokratycznym procesem wyborczym, który powinien opierać się m.in. na zasadach uczciwości, rzetelności i przejrzystości.
Poniżej przedstawię kilka prawdopodobnych scenariuszy potencjalnego użycia omawianej technologii w procesie wyborczym:
Warto podkreślić, iż powyższe scenariusze to jedynie hipotetyczne przykłady potencjalnego użycia deepfake'ów w procesie wyborczym, stworzone na cele niniejszego artykułu. Wykorzystanie przedmiotowej technologii może być znacznie szersze, jedynym ograniczeniem twórców jest ich wyobraźnia oraz umiejętności tworzenia treści.
Podsumowanie
Mając na uwadze powyższe należy zaznaczyć, iż deepfake w przypadku ukierunkowania na szerzenie dezinformacji oraz manipulacji w celu wywarcia wpływu na decyzje wyborcze społeczeństwa może stanowić realne zagrożenie dla uczciwości wyborów.
Zarówno służby, jak i organy odpowiedzialne za zabezpieczenie prawidłowego toku procesu wyborczego powinny zdawać sobie sprawę z tego zagrożenia i podejmować działania na rzecz ochrony jego uczciwości.
Uważam, iż koniecznym jest podjęcie działań zmierzających do ustanowienia odpowiednich regulacji prawnych dotyczących deepfake’ów (szerzej samej AI), inwestowania w technologie ich wykrywania oraz edukacji społecznej.
Co istotne, organy administracji publicznej powinny również współpracować z platformami społecznościowymi, aby monitorować i eliminować
z życia społecznego dezinformację związaną z ww. technologią.
Jedynie poprzez podjęcie ww. działań można będzie w sposób zadowalający zapobiegać negatywnym skutkom stosowania deepfake’ów, a co za tym idzie w sposób odpowiedni chronić uczciwość i integralność procesu wyborczego.
Bibliografia:
