Policjanci nie umieli rozwiązać CAPTCH-y wygenerowanej przez system monitoringu. AI wskazała opakowanie po czipsach jako broń, a policjanci z ośmiu radiowozów bez cienia refleksji rzucili się na nastolatka z kajdankami.
Pamiętacie jak dekadę temu koncerny Big Tech rozpoczęły krucjatę przeciwko emoji broni palnej, zastępując ją ikoną pistoletu na wodę? Teraz podobna krucjata powinna zastąpić emoji paczki czipsów bronią palną.
Sztuczna inteligencja pomyliła opakowanie po Doritosach z pistoletem
Taki Allen, 16-letni uczeń Kenwood High School w hrabstwie Baltimore i zawodnik szkolnej drużyny futbolowej, siedział po treningu na schodach przed szkołą, jedząc czipsy i czekając na podwózkę ze strony członka rodziny. 20 minut później pod szkołę podjechała podwózka – w formie ośmiu radiowozów. Funkcjonariusze z bronią gotową do użycia podeszli do nastolatka i kazali mu położyć się na ziemi.
– Policja podjechała, osiem radiowozów, wszyscy wyszli z bronią i zaczęli krzyczeć, żebym padł na ziemię. Byłem w szoku. Myślałem: co się dzieje? – opowiadał Allen lokalnej stacji WMAR-2 News.
Po przeszukaniu okazało się, iż chłopak nie miał przy sobie żadnej broni. Jedyne, co znaleziono w jego pobliżu, to puste opakowanie po Doritosach. Policjanci pokazali Allenowi zdjęcie z systemu AI, który miał rozpoznać podejrzany przedmiot – na fotografii był trzymający w rękach paczkę czipsów nastolatek, a jeden z jego palców był wyciągnięty w taki sposób, iż algorytm uznał ten gest za zagrożenie.
To była po prostu paczka Doritosów. Trzymałem ją obiema rękami, jeden palec był wyprostowany, a oni powiedzieli, iż wyglądało to jak broń
– mówił Allen reporterom.System detekcji broni oparty na sztucznej inteligencji został wdrożony we wszystkich szkołach średnich hrabstwa Baltimore w zeszłym roku. W teorii miał działać gwałtownie i precyzyjnie – kamery szkolne wykrywają podejrzane obiekty, AI analizuje materiał i natychmiast alarmuje personel szkoły oraz lokalne służby.
Dyrektor Kenwood High School, Kate Smith, w oficjalnym liście do rodziców i nauczycieli wyjaśniła, iż rzeczywiście, to AI jako pierwsza wysłała alarm do pracowników szkoły. Departament Bezpieczeństwa i Ochrony Szkół po obejrzeniu fragmentu nagrania oznaczonego przez AI – przedstawiającego 16-latka ze zgniecioną paczką po Doritosach – uznał incydent za fałszywy alarm. Kate Smith poinformowała o fałszywym alarmie przydzielonego szkole funkcjonariusza ds. bezpieczeństwa, który z kolei skontaktował się z policją, by poinformować o incydencie.
A policja na podstawie przekazanych jej informacji zdecydowała o wysłaniu ośmiu radiowozów.
Sprawa wywołała lawinę komentarzy wśród lokalnej społeczności i internautów, którzy zgodnie wzywają szkoły i policję do zmiany procedur. Rzecznik policji hrabstwa Baltimore stwierdził, iż funkcjonariusze „zareagowali proporcjonalnie do informacji, jakie otrzymali”. Tymczasem szkoła przyznaje, iż choć alarm został anulowany po przeanalizowaniu przez zespół ds. bezpieczeństwa, to dyrektor i tak powiadomiła oficera szkolnego, który wezwał patrol.
Nie uważam, żeby paczka czipsów kiedykolwiek mogła zostać pomylona z bronią. Po tej sytuacji nie wychodzę już po treningu na zewnątrz. Czuję się zbyt niepewnie. Wolę poczekać na rodziców w środku
– komentował rozżalony Allen w rozmowie z WMAR-2 News.Ojciec chłopaka, Lamont Davis, nie kryje oburzenia: „Nikt nie chce, żeby coś takiego spotkało jego dziecko. Nikt”.
System wykorzystywany przez szkołę dostarcza firma Omnilert, która na swojej stronie reklamuje się jako „lider w dziedzinie wykrywania broni przy użyciu sztucznej inteligencji”. W oświadczeniu dla mediów firma stwierdziła, iż ich system „działał zgodnie z założeniem”, a wykrycie obiektu przypominającego broń oraz jego przekazanie do weryfikacji „odbyło się w ciągu sekund”.
Superintendentka szkół publicznych hrabstwa Baltimore, dr Myriam Rogers, podkreśliła, iż „system zadziałał tak, jak powinien”, ale zapowiedziała również przegląd procedur powiadamiania służb mundurowych.
Dyrektor szkoły Kate Smith wystosowała do rodziców list, w którym zapewnia, iż „wiemy, jak stresujące było to dla ucznia i dla innych świadków zdarzenia” oraz, iż „bezpieczeństwo uczniów i pracowników szkoły pozostaje naszym najwyższym priorytetem”.
Problem w tym, iż – jak zauważa sam Allen – dyrektorka przyszła z nim porozmawiać dopiero trzy dni po incydencie. „To pokazuje, iż chyba nie chodziło o szczere przeprosiny, tylko o reakcję pod naciskiem przełożonych” – skwitował.
Sztuczna inteligencja, która miała być bezstronnym strażnikiem bezpieczeństwa, po raz kolejny okazuje się zawodzić tam, gdzie nie ma miejsca na błędy. choćby jeżeli intencje były dobre, to konsekwencje są jawnym marnotrawstwem środków publicznych i nerwów niewinnego nastolatka. W dobie rosnącej obecności AI w szkołach, urzędach i służbach publicznych, pytanie nie brzmi już czy technologia zawiedzie, ale kiedy – i z jakim skutkiem.
Może zainteresować cię także:
