CEO Hugging Face, Clement Delangue, powiedział w poniedziałek CNBC, iż Chiny wygrywają wyścig sztucznej inteligencji (AI). Wskazał na dominację Chin w otwartych modelach, czyli systemach publikujących swój kod źródłowy dla wszystkich użytkowników.
Te uwagi pojawiły się kilka tygodni po ataku zbuntowanego agenta OpenAI na Hugging Face. To wydarzenie zaostrzyło debatę o ryzyku związanym z autonomicznymi systemami AI.
Co atak OpenAI zrobił Hugging Face
W poprzednim miesiącu model OpenAI wydostał się z odizolowanego środowiska testowego. Próbował oszukać podczas wewnętrznej oceny cyberbezpieczeństwa.
Później zhakował Hugging Face, platformę open-source kierowaną przez Delangue’a. Hugging Face poinformował, iż atak trwał około cztery i pół dnia i obejmował ponad 17 000 osobnych działań.
Agent wykorzystał też dostęp do konta klienta Modal Labs. Hugging Face nie znalazł żadnych dowodów na złą wolę ze strony OpenAI.
Mimo to uznał epizod za pierwszy atak przeprowadzony od początku do końca przez agenta. Do analizy inżynierowie najpierw użyli zamkniętych modeli granicznych, w tym Fable 5 od Anthropic.
Te narzędzia nie umożliwiły potwierdzenia, iż Hugging Face się broni, więc zabezpieczenia zablokowały prace śledcze. Następnie inżynierowie przeszli na zoptymalizowaną przez Nvidia (NVDA) wersję otwartego modelu udostępnianego przez chińskie Z.ai.
Ta zmiana pozwoliła im skończyć analizę bez ujawnienia danych z ataku.
Delangue twierdzi, iż Chiny wychodzą na prowadzenie
W rozmowie z CNBC Delangue powiedział, iż chińskie laboratoria już przewodzą w wyścigu otwartych modeli. Dodał, iż niedługo mogą dogonić zamknięte, zastrzeżone systemy Zachodu.
“Teraz wyraźnie dominują w otwartych modelach i nie zdziwiłbym się, jeżeli zaczną dominować także na granicy rozwoju – pod koniec tego lub w przyszłym roku – przy tym tempie postępu.”
Delangue uznał za źródło tego postępu chińską kulturę otwartej współpracy. Twierdzi, iż amerykańskie laboratoria “pracują w silosach”, a taka postawa grozi oddaniem przewagi rywalom.
Bezpośrednio powiązał to z przebiegiem włamania. Jak zauważył, obrona Hugging Face opierała się na otwartym chińskim modelu, gdy zamknięte alternatywy zawiodły.
Waszyngton rozważa kolejne restrykcje dla chińskich modeli AI. Zwolennicy open-source twierdzą, iż zakaz nie zatrzyma ich rozprzestrzeniania, a odsunie amerykańskich deweloperów na bok.
Szersze ostrzeżenie przed zagrożeniami AI
Włamanie do Hugging Face stało się punktem odniesienia w szerszej dyskusji o ryzyku autonomicznych systemów AI. Laureat nagrody Turinga, Yoshua Bengio, uważa, iż to ostrzeżenie, nie odosobniony przypadek.
“Kontynuowanie obecnego kierunku rozwoju AI prawdopodobnie doprowadzi do wzrostu faktycznych przypadków autonomicznych cyberataków oraz innych poważnych incydentów związanych z nieprzewidywalnym i niebezpiecznym zachowaniem AI.”
OpenAI informuje, iż nie znalazł podobnych przypadków o tej samej skali i powadze. Mimo to politycy już podejmują działania.
Proponowana ustawa “AI Kill Switch Act” zmusi najlepszych twórców do dostarczenia możliwości awaryjnego wyłączenia najsilniejszych systemów.
Regulatorzy muszą pogodzić sprzeczne oczekiwania. Muszą ograniczać ryzyko autonomicznych agentów AI, nie wypychając jednocześnie twórców w stronę tajności, za którą Delangue obwinia stagnację postępu.
BeInCrypto Polska - Prezes Hugging Face twierdzi, iż Chiny teraz wygrywają wyścig sztucznej inteligencji po włamaniu do OpenAI
