Ponad 100 tysięcy osób obejrzało fałszywy livestream NVIDII, w którym wystąpiła wygenerowana przez sztuczną inteligencję postać udająca dyrektora generalnego firmy, Jensena Huanga. Co ciekawe, transmisja emitowana była w tym samym czasie, co oficjalne wydarzenie NVIDII i przyciągnęła znacznie większą publiczność niż oryginał.
Prawdziwe wystąpienie podczas konferencji GPU Technology Conference (GTC) zgromadziło około 20 tysięcy widzów na żywo, podczas gdy fałszywy stream osiągnął szczytowy wynik na poziomie 100 tysięcy oglądających.
Deepfake zachęcał do „inwestycji” w kryptowaluty
Sztuczny „Huang” wygłaszał przemówienie o rzekomym „globalnym wydarzeniu masowej adopcji kryptowalut”, które miało rzekomo wpisywać się w misję NVIDII „przyspieszania postępu ludzkości”. Fałszywy CEO zachęcał widzów do zeskanowania kodu QR i przesłania kryptowalut, co miało wspierać ten cel. Nie wiadomo, ilu z oglądających dało się nabrać na to oszustwo.
Nagranie zostało już usunięte z platformy, ale jego popularność pokazuje, jak skutecznie generatywna sztuczna inteligencja może wprowadzać w błąd choćby dużą grupę odbiorców.
Jak to możliwe?
Nie wiadomo, kim byli widzowie fałszywego streamu ani czy wszystkie konta należały do prawdziwych użytkowników. Prawdziwa transmisja NVIDII, mimo niskiej liczby widzów na żywo, osiągnęła później ponad 200 tysięcy odtworzeń, jednak nie dorównała rozgłosem fałszywej wersji.
Eksperci wskazują, iż duża ilość nagrań z wystąpień Jensena Huanga, który prowadził w tym roku już cztery konferencje GTC, mogła posłużyć oszustom jako baza danych do stworzenia realistycznego deepfake’a.
Event NVIDII nie przyniósł spektakularnych nowości. Najważniejszym ogłoszeniem była kooperacja z Uberem nad rozwojem technologii autonomicznej jazdy oraz ujawnienie kilku kontraktów rządowych. Nie pojawiły się żadne zapowiedzi nowych kart graficznych, co mogło przełożyć się na mniejsze zainteresowanie transmisją.
Granica między fikcją a rzeczywistością coraz cieńsza
Przypadek fałszywego streamu NVIDII to kolejny sygnał ostrzegawczy dotyczący rosnącej skali manipulacji przy użyciu generatywnej AI. W ostatnich tygodniach podobne zjawiska obserwowano również w kontekście deepfake’ów z udziałem innych znanych postaci ze świata technologii.
Sam Altman, CEO OpenAI, niedawno udostępnił swój wizerunek twórcom narzędzia Sora 2, co gwałtownie doprowadziło do powstania licznych satyrycznych (i kontrowersyjnych) materiałów wideo.
Źródło: Engadget
