Ostatnia aktualizacja 23 marca, 2023
ChatGPT stał się narzędziem, które z powodzeniem wykorzystują cyberprzestępcy. Jednakże, jak twierdzą eksperci z Sophos, zaawansowany model językowy może pomagać w zwalczaniu oszustw w sieci. Dzieje się tak dzięki zdolności pisania i analizowania długich tekstów. Sztuczna inteligencja może być skutecznie wykorzystywana do:
- wykrywania podejrzanej aktywności,
- filtrowania wiadomości e-mail,
- przeciwdziałania cyberatakowi z użyciem wbudowanych komponentów systemu Microsoft Windows (LOLBin).
ChatGPT ma potencjał do wykorzystania w cyberbezpieczeństwie
Specjaliści z Sophos w swoim pierwszym projekcie opracowali interfejs zapytań w języku naturalnym. Podobnie do sposobu komunikacji wśród ludzi, model językowy umożliwia filtrowanie złośliwej aktywności w telemetrii systemu zabezpieczającego.
Tak przygotowany model pozwolił na obsługę systemu Sophos XDR (Extended Detection and Response) choćby bez znajomości SQL-a. Działanie opiera się o wpisywanie prostych komend w języku angielskim.
Od listopada 2022 r., kiedy Open AI pokazało światu ChatGPT, wielu specjalistów ds. cyberbezpieczeństwa skupiało się głównie na zagrożeniach. Pojawiało się wiele pytań, np. o to czy przestępcy będą przy pomocy nowej technologii tworzyć złośliwe oprogramowanie albo pisać jeszcze bardziej przekonujące maile phishingowe. To możliwe, ale poza niebezpieczeństwami trzeba także zwracać uwagę na możliwości, jakie niesie wykorzystanie ChatGPT. Sztuczną inteligencję postrzegamy jako sprzymierzeńca – mówi Sean Gallagher, główny badacz zagrożeń w firmie Sophos.
Sztuczna inteligencja rozprawi się ze spamem
Eksperci z Sophos wykorzystali również ChatGPT do opracowania nowego filtru antyspamowego. Do wytrenowania modelu posłużyły istniejące już wiadomości spamowe i zaledwie kilka wystarczyło, aby model językowy był w stanie poprawnie wychwytywać je w poczcie mailowej.
ChatGPT został również wykorzystany do stworzenia prototypowego oprogramowania, które pomaga w rozkładaniu na czynniki pierwsze ataków wykorzystujących narzędzia LOLBin. Chodzi tu o legalne oprogramowanie i wbudowane komponenty systemu Microsoft Windows.
Komendy wprowadzane przez przestępców w wierszu poleceń, które pozwalają im uzyskać dostęp do systemu, są bardzo skomplikowane i trudne do zrozumienia choćby dla doświadczonych specjalistów. Jednak dzięki zdolnościom sztucznej inteligencji proces stał się znacznie łatwiejszy. Sztuczna inteligencja jest w stanie wygenerować działający kod w wielu językach skryptowych i programowania na podstawie poleceń wydanych w języku naturalnym.
Badacze wyszkolili model także w odwrotnej sytuacji. Model był w stanie analizować cyberataki na podstawie wprowadzanych komend wiersza poleceń, co w przyszłości może przyczynić się do automatyzacji analizy kodu i powstrzymania ataków z użyciem LOLBin.
Chat GPT może istotnie przyspieszyć pracę specjalistów IT
Sean Gallaghear z Sophos wskazuje, iż jednym z głównych problemów w zespołach zajmujących się bezpieczeństwem jest ilość napływających powiadomień. Firmy borykają się z ograniczonymi zasobami kadrowymi, dlatego nie są w stanie monitorować wszystkich sygnałów.
Nasze analizy udowodniły, iż ChatGPT może uprościć czasochłonne procesy i odciążyć specjalistów ds. bezpieczeństwa. Pracujemy już nad włączeniem niektórych z tych prototypowych rozwiązań do naszych produktów – przekonuje Sean Gallagher. – Efekty prac zespołu Sophos X-Ops udostępniliśmy na naszym GitHubie. Mogą z nich skorzystać wszyscy zainteresowani testowaniem możliwości oferowanych przez ChatGPT we własnych środowiskach analitycznych. Wierzymy, iż w przyszłości sztuczna inteligencja może pełnić rolę „drugiego pilota” dla specjalistów ds. bezpieczeństwa – podsumowuje Sean Gallghear.
