Czołowy profesor Uniwersytetu Stanforda, Jeff Hancock, został oskarżony o rozpowszechnianie dezinformacji wygenerowanej przez AI. Stało się to podczas pełnienia przez niego roli biegłego w sprawie wspierającej ustawę mającą na celu przeciwdziałanie dezinformacji generowanej przez sztuczną inteligencję w czasie kampanii wyborczej.
Hancock, założyciel Laboratorium Mediów Społecznościowych na Stanfordzie, przedstawił swoją ekspertyzę na początku miesiąca w sprawie Kohls przeciwko Ellison. Pozew został złożony przez youtubera Christophera Kohlsa oraz reprezentantkę stanu Minnesota, Mary Franson. Twierdzą oni, iż nowa ustawa stanu Minnesota, która kryminalizuje użycie deepfake’ów w celu wpływania na wybory, narusza ich konstytucyjne prawo do wolności słowa.
W swojej opinii Hancock odwołał się do rzekomego badania zatytułowanego „Wpływ wideo deepfake na postawy i zachowania polityczne”, opublikowanego w Journal of Information Technology & Politics, jednak, według prawników strony powodowej, takie badanie w rzeczywistości nie istnieje.
Cytowanie nosi znamiona halucynacji AI, sugerując, iż przynajmniej ten fragment został wygenerowany przez model językowy, taki jak ChatGPT – napisali prawnicy we wniosku o wykluczenie ekspertyzy Hancocka.
Nie wiemy, jak ta halucynacja trafiła do deklaracji Hancocka, ale podważa to cały dokument, zwłaszcza gdy wiele komentarzy nie zawiera żadnej metodologii ani logicznej analizy.
Deepfake’i generowane przez AI są już zakazane w 20 stanach USA
Minnesota jest jednym z 20 stanów, które wprowadziły przepisy regulujące użycie deepfake’ów w kampaniach politycznych. Nowa ustawa zakazuje świadomego lub lekkomyślnego rozpowszechniania deepfake’ów do 90 dni przed wyborami, jeżeli materiał został stworzony bez zgody osoby przedstawionej i ma na celu wpłynięcie na wyniki wyborów.
Pozew kwestionujący ustawę został wniesiony przez konserwatywną firmę prawniczą w imieniu reprezentantki stanu Mary Franson oraz Christophera Kohlsa, znanego w sieci jako Mr Reagan.
Warto zauważyć, iż wcześniejszy pozew złożony przez Kohlsa przeciwko kalifornijskiej ustawie dotyczącej deepfake’ów wyborczych doprowadził w zeszłym miesiącu do wydania przez federalnego sędziego wstępnego nakazu uniemożliwiającego wejście tej ustawy w życie.
