Sztuczna inteligencja ułatwia działanie przestępcom – tym razem w bardzo nietypowy sposób. Mało kto spodziewałby się bowiem, iż integracja Google Gemini w poczcie Gmail może uczynić phishing jeszcze łatwiejszym. Oto, jak łatwo oszukać Google Gemini.
Google Gemini czyni phishing AI w Gmail
Phishing to jedna z najczęstszych form cyberataku, polegająca na podszywaniu się pod zaufane instytucje lub osoby w celu wyłudzenia danych. Najczęściej wyłudzane są loginy, hasła, numery kart płatniczych lub inne poufne informacje. Ataki phishingowe najczęściej przybierają formę fałszywych wiadomości e-mail, SMS-ów lub stron internetowych, które do złudzenia przypominają oryginalne źródła. W ostatnich latach phishing staje się coraz bardziej wyrafinowany. Cyberprzestępcy wykorzystują techniki inżynierii społecznej, sztuczną inteligencję i automatyzację, by skuteczniej oszukiwać użytkowników. Eksperci Mozilla ujawnili, iż przestępcy nauczyli się niedawno wykorzystywać Google Gemini przeciwko internautom.
Mozilla ujawniła nowy atak typu prompt injection wymierzony w Google Gemini dla Workspace, który da się wykorzystać do przekształcenia podsumowań AI w poczcie Gmail w skuteczny phishing. Badacz Marco Figueroa opisał atak w ramach programu 0din – bug bounty Mozilli dla usług opartych na generatywnej sztucznej inteligencji.
By żyło się łatwiej
Jak wiele innych funkcji opartych na Gemini, automatyczne podsumowania Gmail narzucono ostatnio wszystkim użytkownikom poczty Google jako rzekomo potężne usprawnienie pracy. Tak, początkowo opcjonalną funkcję zintegrowano z mobilną aplikacją Gmail i działa ona automatycznie, bez względu na wolę użytkownika. Opcja podsumowania poszczególnych wiadomości ma zapewniać szybki wgląd w treść maili. Jak to działa? Różnie, jak to bywa z AI. W rękach oszustów jednak może stanowić groźny oręż
Rzeczony atak typu prompt injection wykorzystuje autonomiczny charakter omawianych podsumowań oraz fakt, iż Gemini wiernie wykonuje wszelkie ukryte instrukcje zawarte w promptach. Atakujący mogą użyć prostego HTML i CSS, aby ukryć złośliwe prompty w treści maila. Jak? Chociażby ustawiając czcionkę w rozmiarze zero i białym kolorze tekstu, przez co są one niewidoczne dla użytkownika.
Za pomocą tej metody badacze stworzyli pozornie legalne ostrzeżenie o przejęciu konta Gmail, zachęcając użytkownika do zadzwonienia pod podany numer i podania specjalnego kodu referencyjnego. Według analizy 0din, tego typu atak jest oceniany jako zagrożenie o „umiarkowanym” poziomie ryzyka, ponieważ wciąż wymaga aktywnego działania użytkownika.
To, jak łatwo oszukać Google Gemini jest zaskakujące. | Źródło: 0din.aiGoogle reaguje
Identyczna technika może zostać wykorzystana do atakowania poprzez Gemini w usługach takich jak Docs i wyszukiwarce Dysku Google. Newslettery, automatyczne wiadomości z systemów zgłoszeniowych i inne masowo rozsyłane treści mogą przekształcić jedno przejęte konto SaaS w tysiące aktywnych przekaźników phishingowych. Google nie mogło tego zbagatelizować.
Przedstawiciele Google poinformowali, iż wdrażane są już wielowarstwowe zabezpieczenia mające na celu zwalczanie ataków prompt injection w całej infrastrukturze Gemini.
