Podczas Forum Ekonomicznego w Karpaczu w strefie Uniwersytetu Warszawskiego odbył się panel poświęcony przyszłości autonomicznych systemów obronnych. Eksperci odpowiadali na pytania dotyczące wpływu zmian technologicznych na współczesną wojskowość.
W obliczu dynamicznych zmian i postępu technologicznego kluczowym elementem współczesnej wojskowości stają się autonomiczne systemy obronne. Podczas trwającego Forum Ekonomicznego w Karpaczu eksperci rozmawiali o tym, jak zaawansowane technologie kształtują nową strategię obronną, a także, jakie mogą być jej potencjalne zastosowania na polu bitwy i jakie wyzwania etyczne się z tym wiążą.
W panelu „Przyszłość autonomicznych systemów obronnych” udział wzięli: gen. bryg. dr inż. Mariusz Chmielewski, zastępca dyrektora w Narodowym Centrum Bezpieczeństwa Cyberprzestrzeni, dr Mikołaj Firlej z Oxford University, Maciej Kluczyński, prezes zarządu Polskiego Towarzystwa Bezpieczeństwa Narodowego, dr Tomasz Michalak, lider zespołu badawczego IDEAS NCBR Sp. z o.o., Szymon Krupa, wiceprezes Zarządu NASK, oraz Robert Kamiński z Business Centre Club. Panel poprowadziła Krystyna Rappé-Niemirska, dyrektor marketingu i PR, IDEAS NCBR Sp. z o.o.
Autonomiczne systemy obronne
Panel „Przyszłość autonomicznych systemów obronnych” rozpoczął się od zdefiniowania przez gen. bryg. dr. inż. Mariusza Chmielewskiego pojęcia autonomicznych systemów obronnych: – Bezzałogowce są już od dłuższego czasu obecne w działaniach zbrojnych. Na początku wszyscy uważali, iż to jest zabawka. Okazało się, iż możemy zastosować komercyjny dron, zmodyfikowany, z odpowiednią taktyką, do niszczenia, rażenia i siania spustoszenia.
Szymon Krupa opowiadał o autonomicznych systemach obronnych w kontekście cyberbezpieczeństwa i cyberataków: – Im bardziej wyrafinowana broń, tym bardziej rośnie apetyt na to, by włamać się do systemu i wykorzystać go do innego celu. To bardzo długa i szeroka dyskusja o tym, czym jest autonomiczny system obronny; czym są różne mechanizmy i metody, takie jak metodologia „człowieka w pętli”, czyli wykorzystanie systemów, ale z nadzorem człowieka. Autonomiczne systemy z punktu widzenia bezpieczeństwa i ekonomii są korzystne na polu walki, natomiast z punktu widzenia samych zagrożeń cybernetycznych, podlegają atakom. Rolą ludzi, którzy pracują w branży cybernetycznej, jest stworzenie takich mechanizmów, by urządzenia były jak najbardziej bezpieczne.
– Systemy te są technologiami dual-use. Powinny być rozwijane w trakcie pokoju, aby mogły być używane na wojnie. Ich stosowanie ma służyć odstraszaniu przeciwnika. Te systemy powinny być wykorzystywane nie tylko do obrony, ale także do ochrony granic, przestrzeni powietrznej, przed zagrożeniami w cyberprzestrzeni –powiedział Maciej Kluczyński.
Dr Tomasz Michalak dodał: – Z punktu widzenia naukowego algorytmy sztucznej inteligencji są kwintesencją systemów autonomicznych, ponieważ bez niej nie możemy mówić o autonomii. Autonomia to rodzaj pewnej niezależności od człowieka, którą to dostarcza nam właśnie sztuczna inteligencja. Po pierwsze AI służy do rozpoznania i analizy zagrożeń. Drugi aspekt to podejmowanie decyzji, co z danym zagrożeniem zrobić i jak optymalnie na nie odpowiedzieć. Trzeci aspekt to zdolności sztucznej inteligencji do zwiększenia efektywności operacyjnej systemów. Potrzebujemy sztucznej inteligencji, która wspomoże człowieka. AI się nie męczy, cały czas działa z tą samą wagą, nie potrzebuje przerw – to jest ta przewaga nad człowiekiem.
O etycznej stronie podczas panelu mówił dr Mikołaj Firlej: – Trzeba odróżnić prawdziwą autonomię od systemu bezzałogowego. Prawdziwa autonomia opiera się na zaawansowanej sztucznej inteligencji. Przykład podstawowego problemu etycznego to kwestia systemu ofensywnego, przeznaczonego do ataku na infrastrukturę krytyczną. Może on zostać przez przypadek użyty do ataku na niewłaściwy cel. To nie oznacza, iż tej odpowiedzialności nie ma, zawsze jest ktoś odpowiedzialny.
O autonomicznych systemach obronnych w kontekście prawnym mówił Robert Kamiński: – Tutaj pojawia się pytanie o cały ekosystem, który może regulować te zdarzenia. Żeby dojść do kwestii prawnych, musimy dojść do kwestii tego ekosystemu i zapytać się, dlaczego go jeszcze adekwatnie nie ma. Dlaczego nie ma jakiegoś zintegrowanego rozwiązania, które by pokazywało ścieżkę prawną, w którą stronę powinniśmy iść. Ja widzę to jako ekosystem, z radą programową i ścisłą strategią wypracowaną wspólnie przez wiele środowisk.
– Chciałbym zwrócić uwagę na tempo zmian. Obserwujemy przecież sukcesy grup bojowych dronów. Moim zdaniem wszystkie znaki na niebie i ziemi mówią, iż za kilka lat wojna będzie wyglądała inaczej, niż myślimy i do końca nie wiemy jak – podsumował Tomasz Michalak.
