Maszyna sama wybrała cel i zabiła. Ten dzień zapisze się w historii

Rosyjskie drony zaczęły zabijać bez udziału operatorów. W środku – minikomputer od Nvidii.

Wojna w Ukrainie właśnie trafia do światowej historii, z kolejnego już powodu. Po raz pierwszy potwierdzono śmierć cywilów z rąk rosyjskiego drona, który sam wybrał cel i sam podjął decyzję o ataku. Bez operatora i ostatniego potwierdzenia. W środku – moduł Nvidia Jetson Orin, czyli sprzęt, który normalnie służy do robotów przemysłowych, pojazdów autonomicznych czy studenckich projektów z widzeniem maszynowym.

To wydarzyło się 6 lipca w Zaporożu.

Jak opisują ukraińscy śledczy, dron przypominający niewielki samolot zniżył lot, próbując dostać się do wnętrza stacji benzynowej. Nie udało mu się ominąć budynku, więc eksplodował na ścianie. Zginęły trzy osoby: 19-letnia studentka Tetiana Bubyniec oraz dwaj mężczyźni, Ołeksij Swirin i Roman Karpii.

Wszystko wskazuje na to, iż dron nie tylko leciał w kierunku stacji jako punktu nawigacyjnego- maszyna rozpoznawała obiekty, szukała propanu, analizowała obraz i podejmowała decyzję na podstawie priorytetów, które wcześniej wgrano do jego komputera pokładowego.

Jetson Orin to moduł za raptem kilkaset dolarów

Układ Nvidii wydobyty z drona Molniya

Nvidia Jetson Orin to niewielki komputer o mocy wystarczającej do uruchamiania modeli rozpoznawania obrazu. To sprzęt, który Nvidia reklamuje jako „najpotężniejszy komputer AI dla rozwiązań wbudowanych na świecie”. zwykle służy jako komponent robotów magazynowych, kontroli jakości w fabrykach czy autonomicznych pojazdów.

W dronach znalezionych w Zaporożu moduły były nieuszkodzone na tyle, iż śledczy mogli odczytać dane: zdjęcia terenu, algorytmy nawigacji, a choćby zestaw obiektów, które system miał rozpoznawać. Wśród nich – stacje benzynowe i zbiorniki z propanem.

Nvidia zapewnia, iż nie sprzedaje Jetsonów do Rosji, a sprzęt musiał trafić tam przez rynek wtórny. Firma podkreśla, iż to urządzenia konsumenckie, dostępne dla studentów i startupów, i iż nie są projektowane z myślą o zastosowaniach wojskowych.

Problem w tym, iż w praktyce nie da się kontrolować, gdzie trafiają po odsprzedaży.

Rosja testuje autonomiczne drony od miesięcy. I nie tylko drony

Według ukraińskich służb Rosja zaczęła testować autonomiczne drony Molniya już w maju. Wcześniej eksperymentowała z modelem V2U, który początkowo wykorzystywał AI tylko w finalnym podejściu do celu.

Teraz testy obejmują pełną autonomię – od startu, przez nawigację, aż po wybór celu.

Ukraińskie służby twierdzą, iż moduł Jetson Orin znaleziono również w nowym typie rosyjskiego pocisku S-71M Monochrome, który również ma wykorzystywać AI do naprowadzania na cel.

Warto dodać, iż Ukraina również testowała autonomiczne systemy AI – były używane w okupowanym Krymie, gdzie miały atakować składy paliw i sprzęt wojskowy. Według byłego ministra obrony Mychajła Fedorowa nie zginęli tam cywile. W Zaporożu natomiast mieszkańcy próbują bronić się przed AI w sposób, który brzmi jak scenariusz z cyberpunkowego filmu:

• stawiają plastikowe osłony przy zbiornikach propanu, żeby zmylić algorytmy rozpoznawania obrazu,
• rozwieszają sieci antydronowe nad drogami (już ponad 385 km)
• korzystają z dronów-przechwytywaczy, które wciąż są pilotowane przez ludzi.

To wojna, w której nie tylko żołnierze, ale i cywile muszą myśleć o tym, jak wygląda ich miasto w oczach algorytmu.

Świat właśnie zobaczył pierwszy przypadek śmierci cywilów z rąk w pełni autonomicznego drona

To moment, który wejdzie do podręczników historii technologii. Nie dlatego, iż w dronie był Jetson Orin. Nie dlatego, iż Nvidia nie była w stanie kontrolować rynku wtórnego. Dlatego, iż po raz pierwszy maszyna – nie człowiek – podjęła decyzję o zabiciu cywilów. I zrobiła to na podstawie danych, obrazów i algorytmów, które ktoś wcześniej wgrał do jej pamięci. To nie jest przyszłość. To jest teraźniejszość.

*Zdjecia na The New York Times