Czy już nie za bardzo ufamy AI? Okazuje się, iż sztuczna inteligencja zasugerowała aresztowanie 8 osób – tyle iż te były kompletnie niewinne.
- AI “znalazła” przestępców – problem w tym, iż okazało się, iż aresztowano niewinne osoby.
- Badania pokazują, iż ludzie zaczynają nadmiernie ufać AI.
AI przeszkadza policji w pracy?
“Washington Post” wziął pod lupę policyjne raporty i akta sądowe pod kątem wykorzystywania w sprawach narzędzi sztucznej inteligencji.
Okazało się, iż służby coraz chętniej sięgają po narzędzia oparte na tej technologii. Tyle iż nie powinno się jej jednak ufać!
Dziennik przekazał, iż aż osiem osób zostało niesłusznie aresztowanych. Powodem nie był błąd policjantów, ale to, jak działa system identyfikacji twarzy oparty na AI.
Sztuczna inteligencja wskazała podejrzanych, analizując nagrania z kamer. Po sprawdzeniu alibi, zbadaniu DNA i odcisków palców okazało się jednak, iż osiem zatrzymanych osób jest niewinnych.
AI popełniła błąd, ale najgorsze jest to, iż policja zaczyna zbyt ufać nowej technologii. W sześciu z ośmiu przypadków nie sprawdziła alibi, a w dwóch zignorowała istotne dowody, które od początku sugerowały, iż zatrzymane potem osoby są niewinne.
Dziennik przyjrzał się przypadkowi osoby, która była podejrzana o sfałszowanie czeku bankowego. AI “spojrzała” na nagranie z kamery i wytypowała podejrzanego. Policja nie sprawdziła wtedy choćby jego kont bankowych!
Inny przypadek? Kobieta w zaawansowanej ciąży, którą zamknięto za kradzież samochodu, mimo tego, iż żaden ze świadków nie wspominał o tym, iż sprawczyni miała brzuch ciążowy.
AI działa dobrze, ale w laboratorium
W czym tkwi problem? W tym, że, jak tłumaczy gazeta, AI radzi sobie z rozpoznawaniem twarzy w warunkach laboratoryjnych – gdy pokazujemy jej dobrze wykonane zdjęcia porównawcze.
W przypadku niewyraźnych nagrań zaczynają występować halucynacje.
Mało tego, jak wykryli badacze i co udowadnia raport “Washington Post”, osoby korzystające z narzędzi AI mają skłonność do ślepego ufania nowej technologii.
Są chyba nie świadomi, iż AI popełnia na tym etapie rozwoju błędy, miewa halucynacje i nie jest wyrocznią. Jak widać, ludzkie lenistwo bierze górę nad rzetelną pracą.
