Najnowsza publikacja Państwowego Instytutu Badawczego NASK poświęcona sztucznej inteligencji nosi tytuł „Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie”. Opracowanie, niezwykle aktualne i wręcz niezbędne w dyskursie na temat AI, ujmuje wielostronnie problem cyberbezpieczeństwa AI oraz zastosowania tej technologii w zwalczaniu zagrożeń. Artykuły dotyczą zarówno aspektów technicznych, jak też analiz z obszaru cyberpolicy.
O czym przeczytamy w „Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie” ?
Publikacja NASK podejmuje szeroko dyskutowany w tej chwili temat bezpieczeństwa sztucznej inteligencji, która stała się fundamentem rewolucji technologicznej w wielu dziedzinach – medycynie, bankowości, transporcie, obronności, w sferze porządku publicznego czy egzekwowania prawa.
Publikację otwiera opracowanie „Cyberbezpieczeństwo systemów wykorzystujących sztuczną inteligencję w świetle raportów ENISA” autorstwa Krzysztofa Silickiego, dyrektora ds. strategicznego rozwoju cyberbezpieczeństwa w NASK.
Formułuje on wnioski dotyczące systemów ICT, które wykorzystują technologie sztucznej inteligencji w kontekście zabezpieczeń wynikających ze specyficznych zagrożeń dla samouczących się algorytmów. Stawia tezę, iż „cyberataki na systemy sztucznej inteligencji mogą polegać na wrogim wykorzystaniu określonych zasobów, takich jak zbiory danych treningowych lub trenowane modele (np. wprowadzanie do modelu szkodliwych danych) lub wykorzystaniu konkretnych podatności systemu sztucznej inteligencji bądź w infrastrukturze ICT, na której opiera się dany system”.
Przeczytaj także: NASK pomaga walczyć z hejtem w sieci >>
W dalszej części publikacji znajdują się artykuły zarówno ekspertów z NASK-PIB, jak i przedstawicieli środowisk akademickich, prawniczych czy administracji mówiących o:
- wrogim wykorzystaniu danych treningowych lub trenowanych modeli,
- atakach na algorytmy uczenia maszynowego,
- technicznej weryfikacji wiarygodności systemów,
- cyberbezpieczeństwie medycznej AI,
- wykorzystaniu przez cyberprzestępców sztucznej inteligencji (w tym technologii deepfake) w atakach na klientów rynku finansowego,
- zasadach odpowiedzialnego wykorzystania AI przez NATO,
- polityce UE wobec AI,
- AI Act,
- trudnościach regulatorów w nadążaniu za rozwojem AI i kłopotach w stworzeniu jednolitej definicji sztucznej inteligencji.
Duża część pracy poświęcona jest aspektom technicznym, ale w opracowaniu pojawiają się także artykuły dotyczące strategicznych, regulacyjnych i organizacyjnych wątków rozwoju AI.
Publikacja jest bezpłatna, do pobrania w formacie PDF.
Źródło: NASK
