Wygląda na to, iż DeepSeek może posłużyć do niecnych celów. Eksperci ds. cyberbezpieczeństwa donoszą o opcji wykorzystania popularnego chatbota w celu opracowania złośliwego oprogramowania. Udało się wygenerować stosowny kod, który po wprowadzeniu kilku poprawek stał się całkowicie funkcjonalny. Mowa chociażby o wykreowaniu ransomware czy keyloggera – te popularne typy malware stanowią groźne narzędzie w rękach hakerów.
DeepSeek ułatwia „pracę” cyberprzestępcom
Sztuczna inteligencja w wykonaniu chińskich firm budzi niepokój na całym świecie. Nic więc dziwnego, iż poszczególne państwa podejmują decyzję o zablokowaniu opcji korzystania z chatbota. Miesiąc temu taki krok wykonały południowokoreańskie władze. Mobilna wersja aplikacji zniknęła z obiegu, ostała się wyłącznie przeglądarkowa odsłona asystenta. Polska na razie nie zaimplementowała żadnych regulacji prawnych.
Teraz okazuje się, iż umiejętni konsumenci mogą dokonać manipulacji DeepSeek tak, by model rozumowania R1 zaczął generować nie do końca etyczną zawartość. Badacze z firmy Tenable udowodnili, iż sztuczna inteligencja jest w stanie pomóc przy tworzeniu złośliwego oprogramowania. Wystarczy kilka sprytnie ułożonych promptów oraz odrobina wiedzy specjalistycznej, by „zakazana” wiedza stanęła przed nami otworem.
Kilka promptów wystarczyło, by uzyskać lekko zmodyfikowany kod / Źródło zdjęcia: materiał własnyEksperci na samym początku próbowali wprost poprosić AI o napisanie kodu keyloggera w języku C++, ale algorytm odmówił twierdząc, iż wiedza ta może zostać wykorzystana w nieprawidłowy sposób. Obejście ograniczenia nie należało do najtrudniejszych – wystarczyło wyłącznie wyjaśnić, iż kod posłuży wyłącznie do celów edukacyjnych. Niedługo później DeepSeek wypluł stosowną treść, ale zawierała ona kilka błędów.
Niebezpieczne narzędzie w rękach hakerów?
Jak twierdzą badacze z Tenable, wystarczyły zaledwie cztery zmiany w kodzie, by uczynić keyloggera w pełni funkcjonalnym oprogramowaniem. Sztuczna inteligencja pomogła też w lepszym ukryciu pliku, ale tutaj akurat nie obyło się bez manualnej interwencji. Co ciekawe, przetestowano także umiejętności DeepSeek w kontekście projektowania ransomware. Asystent również sobie poradził, choć najważniejsze okazało się wprowadzenie kilku poprawek. Bez problemu jednak doszło do identyfikacji pewnych problemów czy wygenerowania rozwiązań ułatwiających testowanie czy debugowanie wirusa.
DeepSeek (Android) – pobierz aplikację z naszej bazy danych
Wniosek jest prosty – DeepSeek posiada umiejętności tworzenia podstawowych struktur malware. jeżeli jednak spróbuje to zrobić osoba bez jakiejkolwiek wiedzy technicznej, to wygenerowany kod okaże się całkowicie bezużyteczny i będzie stanowił ciekawostkę. Gdy jednak do AI dobiorą się doświadczeni hakerzy, to tego typu luki bez wątpienia ułatwią im wykonywanie pewnych akcji.
Ciekawe tylko czy w przyszłości dojdzie do wyeliminowania tego typu problemów. Kto wie, być może będziemy świadkami odwrotnego scenariusza likwidującego wszelkie bariery?
Źródło: Tenable / Zdjęcie otwierające: materiał własny
