Sztuczna inteligencja bez wątpienia daje ogromne możliwości, fascynuje i zachwyca. Ta technologia ma też jednak swoje ciemne oblicze. Wszystko za sprawą osób, które wykorzystują AI do nielegalnych i oszukańczych praktyk. Problemów wynikających z niewłaściwego wykorzystania tego narzędzia doświadcza właśnie SIngapur. Premier Singapuru Lee Hsien Loong ostrzega przed rosnącą liczbą fałszywych filmów, generowanych przez AI, krążących w mediach społecznościowych.
AI tworzy scam i rozsyła go po mediach społecznościowych
Premier Singapuru Lee Hsien Loong ostrzegł opinię publiczną przed wzrostem liczby fałszywych filmów krążących na platformach mediów społecznościowych. Filmy wygenerowane przez sztuczną inteligencję fałszywie przedstawiają premiera i wicepremiera Lawrence’a Wonga popierającego oszustwa związane z inwestycjami w kryptowaluty. Premier Lee nalega, aby społeczeństwo zachowało czujność, unikało angażowania się w oszukańcze treści i zgłaszało takie przypadki za pośrednictwem rządowego bota ScamShield na WhatsApp.
Lee Hsien Loong 29 grudnia na swojej oficjalnej stronie na Facebooku odniósł się do zauważalnego wzrostu liczby fałszywych filmów przedstawiających jego i wicepremiera Lawrence’a Wonga. Sfabrykowane filmy, stworzone przy użyciu zaawansowanej technologii sztucznej inteligencji, przedstawiają przywódców dyskutujących o kryptowalutowej platformie inwestycyjnej, za którą rzekomo stoi Elon Musk.
Drastyczny wzrost liczby niebezpiecznych nagrań
Premier wyjaśniał, iż wspomniane filmy są całkowicie fałszywe. Zwrócił uwagę, iż oszuści coraz częściej wykorzystują sztuczną inteligencję do replikowania głosów i wizerunków urzędników. Manipulują prawdziwymi materiałami filmowymi z oficjalnych wydarzeń, aby stworzyć przekonujące, ale całkowicie fikcyjne narracje. Ta taktyka przyniosła w 2023 r. wzrost liczby fałszywych filmów w Singapurze o 500%, w porównaniu z rokiem poprzednim.
Reakcja i ostrzeżenie Lee podkreśla rosnące zagrożenie związane z deepfake-ami. Głównym z nich jest szerzenie dezinformacji na masową skalę. W ostatnim czasie oszuści w szczególności wykorzystują okresy wzmożonego zainteresowania mediów kryptowalutami i rozpowszechnianiają fałszywye reklamy na ten temat. Wykorzystują przy tym wizerunki wysokich urzędników państwowych oraz znanych polityków.
