Omylny algorytm doprowadził do aresztu
Robert Julian-Borchak Williams z Detroit został aresztowany na podstawie błędnego rozpoznania twarzy przez algorytm policyjny i będąc zupełnie niewinny, spędził trzydzieści godzin w areszcie. Wydarzyło się to w styczniu tego roku. Gazeta "The New York Times" dowiedziała się i poinformowała o tym wydarzeniu kilka miesięcy później.
Kiedy Williams został wezwany przez policję i dotarł na posterunek, technika rozpoznawania twarzy oparta na sztucznej inteligencji ustaliła, że to on był osobą widzianą na nagraniu z kradzieży sklepowej z 2018 roku. Przypadek ten jest uznawany za pierwszy tego rodzaju błąd AI w historii, jednak cytowani przez NYT prawnicy sądzą, że w rzeczywistości nie jest pierwszy, tylko jako pierwszy wyszedł na światło dzienne.
Sprawa ta odbiła się w USA szerokim echem. Krytykowano policję za opieranie się w decyzjach o zatrzymaniu i areszcie wyłącznie na wskazaniach algorytmów rozpoznawania twarzy. Nałożył się na to problem rasowy (Williams jest czarny) i opinie, że algorytmy rozpoznawania twarzy oparte są na uprzedzeniach wynikających z koloru skóry.
