Wzrost spamu nekrologowego

Pod koniec grudnia 2023 roku kilku przyjaciół Briana Vastaga i Beth Mazur było zdruzgotanych, gdy dowiedziała się, iż para nagle zmarła. Vastag i Mazur poświęcili swoje życie działaniom na rzecz osób niepełnosprawnych pisze o chorobach przewlekłych. Gdy nekrologi pojawiły się w Google, członkowie ich społeczności zaczęli dzwonić do siebie, aby podzielić się straszliwymi wiadomościami, docierając choćby do ludzi przebywających na urlopie w połowie świata.

Tyle iż Brian Vastag był bardzo żywy i nieświadomy fałszywych nekrologów, które wskoczyły na pierwsze miejsca w wynikach wyszukiwania Google. Beth Mazur w rzeczywistości zmarła 21 grudnia 2023 roku. Jednak spamerskie artykuły, które teraz wypełniły sieć, twierdziły, iż sam Vastag również zmarł tego dnia.

„[The obituaries] miał wpływ na świat rzeczywisty, do którego zadzwoniły co najmniej cztery znane mi osoby [our] wspólnych znajomych i myślałam, iż umarłam razem z nią, jakbyśmy zawarli pakt samobójczy czy coś w tym stylu” – mówi Vastag, który przez pewien czas był żonaty z Mazurem i pozostawał z nią blisko. „To spowodowało dodatkowy stres u niektórych moich przyjaciół, co mnie naprawdę rozgniewało”.

„Beth Mazur i Brian Vastag Nekrolog, zespół chronicznego zmęczenia (CFS/ME) zabił 2 osoby” czyta jeden artykuł na stronie internetowej o nazwie Eternal Honoring. Inna witryna o nazwie In Loving Memories News mówi, „Beth Mazur i Brian Vastag Nekrolog, Zespół chronicznego zmęczenia (CFS/ME)”. Oprócz artykułów twierdzących, iż Vastag nie żyje, były tam też liczny podrobiony nekrologi o Mazurach, napisane z nagłówkami przypominającymi przynętę na kliknięcia i struktury zoptymalizowane pod kątem wyszukiwarek.

Krawędź zidentyfikowało kilkanaście stron internetowych, które opublikowały artykuły na temat śmierci Mazura, a także kilka Filmy na youtube osób czytających nekrologi na podstawie scenariusza. Strony te mają dziwne, nieznane nazwy i stale dostarczają artykułów na różne tematy, w tym na temat śmierci ludzi na całym świecie. Artykuły są nieporadne i zawierają kilka informacji, ale są wypełnione słowami kluczowymi, których szukają użytkownicy Google. Oprócz kilkunastu witryn piszących o Mazurze, istnieje rozległa sieć witryn o wysokiej randze, zarabiających pieniądze, gdy rodzina, przyjaciele i znajomi szukają informacji o zmarłej osobie.

Strony noszą znamiona generowania przy użyciu narzędzi sztucznej inteligencji. Vastag podejrzewa, iż ​​na przykład dezinformację na temat jego rzekomej śmierci można przypisać czyjejś skrobaniu artykuł, którego współautorami są Vastag i Mazur (wydaje się, iż jeden artykuł stwierdzający śmierć Vastaga podsumowanie artykułu autorstwa AI). Nekrologi są od siebie oddzielone i prawie identyczne, kilka słów jest przesuniętych i powtarzają niedokładne szczegóły, jak np. miejsce zamieszkania Mazura. Artykuły zaczęły pojawiać się w ciągu jednego dnia ogłoszenie MEAction Networkorganizacji non-profit, której jest współzałożycielką.

Google od dawna stara się powstrzymywać spam nekrologowy — przez lata niewymagające dużego wysiłku witryny z przynętami SEO smażyły ​​się w tle i pojawiały się na szczycie wyników wyszukiwania po śmierci danej osoby. Następnie witryny agresywnie zarabiają na treściach ładowanie stron z natrętnymi reklamami i zyskiem, gdy użytkownicy klikają wyniki. w tej chwili wydaje się, iż powszechna dostępność generatywnych narzędzi sztucznej inteligencji przyspiesza zalew fałszywych nekrologów niskiej jakości.

„Skrobanie nekrologów” to powszechna praktyka, która dotyka nie tylko celebrytów i osób publicznych, ale także przeciętnych osób prywatnych. Domy pogrzebowe współpracują z serwisami skupiającymi nekrologi od co najmniej 15 lat, mówi Courtney Gould Miller, dyrektor ds. strategii w MKJ Marketing, która specjalizuje się w marketingu usług pogrzebowych. Witryny przeszukują artykuły prasowe i strony lokalnych domów pogrzebowych w poszukiwaniu pierwszych ogłoszeń o śmierci, które zawierają podstawowe informacje, takie jak imię i nazwisko, wiek i miejsce, w którym może się odbyć nabożeństwo. Oni wtedy zeskrobuj i ponownie opublikuj zawartość na dużą skalękorzystając z formatów opartych na szablonach lub, coraz częściej, narzędzi AI.

Legacy.com to największa i najbardziej uznana wersja agregatorów — ale stale pojawiają się niezliczone mniejsze, bardziej szkicowe witryny. Niektóre z tych witryn zawierają niedokładne informacje, takie jak data lub miejsce nabożeństwa żałobnego. Inni zbierają zamówienia na kwiaty i prezenty, które nie docierają na czas, frustrując rodzinę i przyjaciół oraz przyprawiając o ból głowy lokalne domy pogrzebowe, mówi Gould Miller. Miejsca gromadzenia ofiar regularnie przewyższają liczbę rzeczywistych domów pogrzebowych mających kontakt z rodzinami pogrążonymi w żałobie.

“Myślę, iż [Google is] sprawdzanie, kto ma najwięcej linków zwrotnych, kto ma największą władzę, kto ma największy ruch – na typowe rzeczy zwracają uwagę ich algorytmy. Agregator będzie oczywiście miał tego wszystkiego więcej niż lokalny dom pogrzebowy” – mówi Gould Miller. „To podstawa działalności agregatorów, prawda? Wiedzą, iż algorytmy wyszukiwania Google są po ich stronie”.

„Google zawsze dąży do ujawniania informacji wysokiej jakości, ale luki w danych są znanym wyzwaniem dla wszystkich wyszukiwarek” – powiedział rzecznik Google Ned Adriance Krawędź w e-mailu. „Rozumiemy, jak niepokojąca może być ta treść, i pracujemy nad wprowadzeniem aktualizacji, które znacznie poprawią wyniki wyszukiwania takich zapytań”. Adriance powiedziała, iż ​​Google zamknął kilka kanałów YouTube oznaczonych przez Krawędź które udostępniały nekrologi i powiadomienia o śmierci, będące przynętą SEO, ale nie chciały powiedzieć, czy oznaczone witryny naruszają zasady Google dotyczące spamu.

Gdy Vastag odkrył artykuły, które twierdziły, iż on również zmarł, zgłosił je Google, mając nadzieję, iż strony te zostaną usunięte z wyszukiwania. Firma odesłał odpowiedź w puszkachtwierdząc, iż oznaczone witryny nie naruszają jej zasad.

Niektóre strony internetowe publikują ciągły strumień artykułów informacyjnych na temat zmarłego, stanowiących przynętę na kliknięcia. Sztuczna inteligencja tylko pogorszyła problem, utrudniając na pierwszy rzut oka stwierdzenie autentyczności nekrologów, gdy rodzina i przyjaciele pogrążeni w żałobie nie przyglądają się uważnie adresowi URL artykułu lub jego autorowi.

Jedna strona o nazwie The Thaiger jest wypełniona wiadomościami na każdy możliwy temat. Jej autorzy śledzą cykle wiadomości wirusowych, takie jak polityczne spory na uczelniach Ivy League. W kategorii aktualności z Tajlandii: „Publiczna kupa mężczyzny w tajskim salonie samochodowym wywołuje szum w Internecie”. Sekcja Na czasie zawiera artykuły takie jak „Zaskakujące odkrycie Pedro Pascala robi furorę podczas ceremonii rozdania nagród Emmy 2024” i inne pastisze internetowej przynęty na kliknięcia z początku 2010 roku.

Jednak wśród setek artykułów zawierających plotki o celebrytach i podsumowań filmów na TikToku posypane są chorobliwymi, automatycznymi opisami śmierci przeciętnych ludzi, którzy nie byli osobami publicznymi. Pisarze z The Thaiger – z siedzibą w Bangkoku w Tajlandii – odchodzą ponad 20 historii dziennie czasami włączając nekrologi SEO dotyczące osób, które zmarły w wyniku chorób; studenci, którzy zmarli w wyniku samobójstwa; oraz nieletni, którzy uczestniczyli w śmiertelnych wypadkach samochodowych. Opowieści mają podobną strukturę, czasami używają identycznych, niejasnych sformułowań na temat zmarłego. Historie o zgonów są często oznaczane jako „popularne”, choćby jeżeli nic nie wskazuje na to, iż dana osoba była znana poza swoją społecznością, a artykuły wydają się gromadzić lub przepisywać lokalne doniesienia prasowe, posty w mediach społecznościowych lub rzeczywiste nekrologi od rodziny.

Treści w The Thaiger mają cechy generowania przy użyciu sztucznej inteligencji. Artykuły nekrologów są pisane z nieokreśloną powagą, przy użyciu nienaturalnych sformułowań, takich jak „niezatarty ślad”, jaki pozostawiła dana osoba, lub jej „przedwczesna śmierć”, ale bez żadnych faktycznych szczegółów na temat jej życia. Artykuły są napisane na wzór typowych nekrologów i artykułów prasowych, ale brakuje w nich cytatów z rodziny lub przyjaciół zmarłego i nie cytują doniesień zewnętrznych.

Nekrologi pojawiające się w The Thaiger mają w sobie nieludzką, niewłaściwą jakość. Niektóre artykuły obiecują „obszerną relację” o śmierci lub iż „w Internecie panuje szum” zainteresowaniem tym wydarzeniem. „Przewiduje się dalsze aktualizacje, a zaciekawionej i zaniepokojonej opinii publicznej zaleca się śledzenie zweryfikowanych informacji” – czytamy w jednym z artykułów na temat śmierci kobiety z Calgary w Kanadzie. Każdy zakątek witryny jest wypełniony reklamami.

Tajer strona personelu wymienia ośmiu pisarzy, z których żaden nie ma profilu na LinkedIn, a co najmniej trzech z nich na zdjęciach głowy wydaje się być sztuczną inteligencją. „Luke Chapman”, który na przykład pisze wiadomości z Australii i Nowej Zelandii, ma na sobie rozpiętą koszulę zapinaną na guziki z guzikami biegnącymi po obu stronach. „Jane Nelson”, opisywana jako „doświadczona dziennikarka finansowa”, ma na sobie złoty naszyjnik, który znika w połowie piersi. choćby w przypadku profili zawierających zdjęcia wyglądające na prawdziwych ludzi, autorzy są jak duchy — nie ma żadnych wzmianek o tym, iż ci dziennikarze istnieli gdziekolwiek indziej.

Tajer i dyrektor generalny Darren Lyons nie odpowiedzieli na liczne prośby o komentarz. Po Krawędź zapytany o zdjęcia głowy generowane przez sztuczną inteligencję, The Thaiger po cichu usunął autorów ze strony personelu wraz z archiwum artykułów.

W innej witrynie o nazwie FreshersLive artykuły o zmarłych są bezlitośnie optymalizowane pod kątem Google. Co kilka zdań pojawiają się słowa najważniejsze takie jak „Beth Mazur”, „Sieć MEAction” i „Zespół chronicznego zmęczenia”. Tekst jest podzielony na kilka sekcji z podtytułami dostosowanymi do SEO, takimi jak „Kim była Beth Mazur?” oraz „Czy Beth Mazur umarła?” Na dole znajduje się choćby sekcja FAQ – mroczniejsza, bardziej okrutna wersja taktyka znana w całej sieci.

W odpowiedzi przesłanej e-mailem do Krawędźna pytania osoba, która przedstawiła się jedynie jako „Dilip”, zaprzeczyła, jakoby witryna korzystała z narzędzi sztucznej inteligencji i stwierdziła, iż ​​personel próbuje skontaktować się z rodziną zmarłego. Na pytanie, w jaki sposób FreshersLive znajduje i ocenia zgony, o których warto pisać, „Dilip” odpowiedział: „To wysoce poufne”.

„Ktokolwiek wpadł na pomysł [the articles] — nie znali Beth, nic o niej nie wiedzą” – powiedział Vastag Krawędź. „Nie mają prawa publikować jej nekrologu”.

Vastaga własny nekrolog dla Mazura został opublikowany 12 stycznia, kilka tygodni po jej śmierci. I choć strony ze spamem działały szybciej, tylko nekrolog Vastaga oddaje faktyczną osobę, jaką był Mazur.

Zanim zachorowała, pracowała w branży technologicznej — w ostatnich miesiącach życia eksperymentowała także z generatywnymi narzędziami sztucznej inteligencji, takimi jak ChatGPT, powiedział Vastag Krawędź. Była zabawna i mądra, a przyjaciele i współpracownicy pamiętają ją jako wizjonerską organizatorkę, która nie szukała uznania dla swojej pracy. Planowała i prowadziła imprezy tematyczne dla przyjaciół, tańczyła w Burning Man i pomagała pacjentom uzyskać dostęp do opieki i zasobów. Żaden ze spamowych nekrologów oczywiście nie wspomina o tych faktach.