Walijski system rozpoznawania twarzy zawiódł na całej linii

Algorytmy muszą się jeszcze sporo nauczyć, jeśli mają wyręczyć policjantów w rozpoznawaniu przestępców.

Podczas zeszłorocznego finału Chamnions League w Cardiff południowowalijska policja postanowiła przetestować system automatycznego rozpoznawania twarzy. Miał on za zadanie przeanalizować kibiców uczestniczących w wydarzeniu i porównać ich wizerunek do wpisów w bazie 500 tysięcy osób figurujących w policyjnych kartotekach. Na pierwszy rzut oka system spisał się wyśmienicie – wytypował 2470 potencjalnie podejrzanych osób. Szybko jednak okazało się, że algorytm aż 2297 razy popełnił błąd pierwszego rodzaju, czyli wskazał osobę, która nie figurowała w policyjnej kartotece. Oznacza to, że aż 92% wskazań było błędnych, gdyby nie podwójna weryfikacja wyników, policja miałaby nie lada problem z wyłowieniem podejrzanych z 170-tysięcznego tłumu.

Dziennikarze serwisu Wire dowiedzieli się, że to nie pierwsza taka wpadka tego systemu – podczas zeszłorocznej walki bokserskiej wskazał 90% fałszywie pozytywnych wyników, a w trakcie meczu rugby wynik ten wyniósł 87%. Walijska policja podchodzi jednak do tych danych z dużą rezerwą, zauważając, że każdy system bezpieczeństwa popełnia błędy, a rolą funkcjonariuszy jest zadbanie o właściwe zinterpretowanie pracy algorytmu. Funkcjonariusze zapewniają także, że w wyniku pracy oprogramowania nikt nie został niesłusznie aresztowany.

Choć na każdym kroku ostrzega nas się, że sztuczna inteligencja i roboty prędzej czy później odbiorą nam pracę, zanim to nastąpi, minie jeszcze wiele lat. Przykład walijskiego oprogramowania dobitnie pokazuje, że bez człowieka maszyny wciąż są bezbronne.

Źródło

 

Odpowiedz