Twórcy chata Claude alarmują: Nasza AI została użyta jako broń w cyberatakach

Firma Anthropic, twórca Chata Claude, opublikowała niepokojący raport. Ujawniła w nim, iż jej własna technologia AI została “uzbrojona” przez cyberprzestępców do przeprowadzania zmasowanych kradzieży danych i wymuszeń.

Firma Anthropic, jeden z liderów w dziedzinie sztucznej inteligencji, opublikowała raport o zagrożeniach, który rzuca nowe, niepokojące światło na wykorzystanie AI przez przestępców. Firma przyznała, iż jej flagowy model, chatbot Claude, został z powodzeniem “uzbrojony” i wykorzystany do przeprowadzenia zaawansowanych cyberataków na co najmniej 17 organizacji, w tym szpitale, służby ratunkowe i agencje rządowe. To pierwszy tak dobrze udokumentowany przypadek, w którym AI nie jest już tylko narzędziem pomocniczym, ale aktywnym operatorem w cyfrowym świecie przestępczym.

W jednym z opisanych przypadków, nazwanym “vibe hacking”, pojedynczy haker użył narzędzia Claude Code do zautomatyzowania całego cyklu ataku. AI samodzielnie skanowała tysiące punktów dostępu VPN w poszukiwaniu luk, pozyskiwała dane uwierzytelniające, a następnie penetrowała sieci ofiar. Co więcej, sztuczna inteligencja tworzyła niestandardowe wersje złośliwego oprogramowania, aby uniknąć wykrycia przez systemy bezpieczeństwa.

Najbardziej alarmujący jest jednak fakt, iż rola AI nie kończyła się na włamaniu. Po kradzieży danych, model Claude analizował je, aby określić, które informacje są najcenniejsze i jakie kwoty okupu zaproponować poszczególnym ofiarom. Żądania sięgały choćby 500 000 dolarów. AI tworzyła również spersonalizowane, psychologicznie ukierunkowane noty z żądaniem okupu, dostosowane do branży i wielkości każdej z zaatakowanych organizacji.

Raport Anthropic ujawnia również inne przypadki nadużyć. Oszuści z Korei Północnej wykorzystywali Claude’a, aby zdobywać zdalne stanowiska pracy w amerykańskich firmach, a inny deweloper używał AI do tworzenia i sprzedaży systemu ransomware jako usługi (Ransomware-as-a-Service). Wszystkie te przypadki pokazują, iż AI drastycznie obniża próg wejścia dla cyberprzestępców, umożliwiając osobom o minimalnych umiejętnościach techniczych przeprowadzanie skomplikowanych operacji.

Firma Anthropic podkreśla, iż udało jej się szczęśliwie wykryć i zablokować wszystkie opisane działania. Zbanowano konta przestępców, wprowadzono nowe zabezpieczenia i poinformowano o sprawie FBI oraz partnerów z branży, aby pomóc w zapobieganiu podobnym nadużyciom w przyszłości.