GenAI ma wiele zastosowań – programistom ułatwia pisać aplikacje, analitykom analizować dane a marketingowcom podsuwa pomysły na następne kampanie. Nie inaczej jest z hakerami i innymi cyberprzestępcami. Ostatnio na sporą skalę pojawiło się nowe zjawisko – generowany przez GenAI wysoce spersonalizowany phishing.
Od dość dawna wiadomo, iż GenAI będzie dobrym narzędziem dla cyberprzestępców. Już przed rokiem szef Interpolu Jürgen Stock ostrzegał, iż AI umożliwia cyberprzestępcom zwiększenie skali swoich działań. I pozwala choćby mało doświadczonym kryminalistom tworzyć przekonujące oszustwa.
Teraz na większą skalę wchodzi nowe zastosowanie. Wykorzystanie generatywnej sztucznej inteligencji do tworzenia wysoce spersonalizowanych ataków phishingowych.
Wysoce spersonalizowany phishing – jak to działa?
Na czym polega taki spersonalizowany phishing? Większość ataków phishingowych to masówka wysyłana w wielkich ilościach do przypadkowych ludzi. Jednak atak spersonalizowany to o wiele bardziej subtelne podejście. Po pierwsze, o wiele uważniej dobiera się cel ataku. Najczęściej wybierając wysokiej rangi kadrę kierowniczą firm.
Phishing to jedna z najpopularniejszych form ataków cyberprzestępców – w wyniku takiego ataku 15 mln euro straciła notowana na GPW sieć sklepów Pepco.
Po drugie, cyberprzestępca zleca sztucznej inteligencji zebranie informacji o firmie ofiary, jej stylu komunikacji korporacyjnej czy informacji o samej ofierze z jej mediów społecznościowych. Informacje te są zbierane przy pomocy tak zwanego web scrapingu a następnie wykorzystywane do stworzenia przez GenAI przekonującego ataku phishingowego.
Phishing jest zwykle używany do instalacji złośliwego systemu lub do wyciągania danych logowania ofiary. Przy ataku spersonalizowanym możliwości są jednak większe. jeżeli atak jest wystarczająco przekonujący, może skłonić ofiarę do przelania przestępcom sporych kwot pieniędzy lub ujawnienia tajemnicy firmy.
Spersonalizowany phishing ma jeszcze jedną zaletę dla cyberprzestępców. Masówka łatwo pada łupem systemów cyberbezpieczeństw i może być unieszkodliwiona. Wykrycie przez systemy ochrony e-maila czy SMS-a spersonalizowanego przez AI jest o wiele trudniejsze.
Na celowniku kadra kierownicza firm
Dlaczego na ofiary ataku wybierani są członkowie wyższej kadry kierowniczej? Po pierwsze dlatego, iż osoby takie „więcej mogą”. Mogą np. wykonać przelew sporej sumy pieniędzy lub uzyskać dostęp do wrażliwych danych firmy.
Po drugie, korzystanie z GenAI kosztuje dużo więcej, zwłaszcza w mocy obliczeniowej, niż ataki z bramki SMS do masowego wysyłania phishingowych wiadomości na telefony ofiar. Zbyt dużo, by taki rodzaj ataku zastosować na naprawdę masową skalę.
Jak odnotowuje Nadezda Demidowa, analityk bezpieczeństwa w gigancie handlu internetowego eBay, nie tylko rośnie liczba wszystkich cyberataków. Ostatnio szczególnie szybki wzrost widać w „wysublimowanych i wysoce ukierunkowanych” atakach phishingowych.
Pojawienie się takiego typu ataku nie jest prawdopodobnie wielką niespodzianką. O takim zastosowaniu generatywnej sztucznej inteligencji ostrzegali już przeszło rok temu w swoim artykule naukowym Marc Schmitt i Ivan Flechais z Uniwersytetu Oksfordzkiego.
„Sztuczna inteligencja generatywna ma potencjał, aby zapoczątkować erę hiperspersonalizowanych i wysoce ukierunkowanych ataków. Wynika to z wprowadzonej umiejętności generowania realistycznych treści. Ale także z potencjału sztucznej inteligencji do analizy istniejących informacji, co pozwala atakującym dostosować swoje złośliwe zamiary do obecności online, zachowań i powiązań celów. W ostatnim kroku informacje te mogą być skutecznie wykorzystane podczas etapu wykonania” – pisali wówczas naukowcy.
Źródło grafiki: Sztuczna inteligencja, model Dall-E 3
