Використання поліцейської системи розпізнавання осіб, заснованої на алгоритмах штучного інтелекту, вперше призвело до арешту невинної людини. Вона сплутала його зі справжнім злочинцем.
За даними видання The New York Times, поліцейські американського міста Детройт у січні цього року затримали для перевірки якогось Роберта Джуліана-Борчака Вільямса (Robert Julian-Borchak Williams). Після того як Вільямса доставили в поліцейську дільницю, його заарештували, тому що система розпізнавання осіб визначила в ньому злочинця, який у 2018 році скоїв магазинну крадіжку. Як з'ясувалося пізніше, система на базі ШІ-алгоритмів зробила помилку, але Вільямсу все одно довелося провести 30 годин за ґратами, поки поліцейські не розібралися в ситуації.
Противники систем розпізнавання осіб вже довгий час стверджують, що дана технологія ще недостатньо досконала для точного пошуку і визначення злочинців. Самі розробники подібних систем не раз застерігали органи правопорядку від їх використання в якості єдиного надійного доказового інструменту для затримання. Але як виявилося, у випадку з Вільямсом дана система стала єдиним «доказом» на користь арешту невинної людини.
Примітно, що програмне забезпечення для ідентифікації осіб, яке використовувалося детройтською поліцією разом з результатами перевірки Вільямса, вивело наступне повідомлення: "Цей документ не є позитивним ідентифікатором. Він являє собою тільки слідчу версію і не є підставою для затримання ".
Після внесення застави Вільямса відпустили, а коли розібралися в ситуації - навіть вибачилися. Але цей випадок створив прецедент, який вказує на набагато більшу проблему - цілком довіряти алгоритмам штучного інтелекту поки не можна.
"Я серйозно підозрюю, що це не перший випадок помилки системи, в результаті якої було заарештовано людину, яка не скоювала злочину. Швидше за все, це всього лише перший випадок, коли про це стало відомо громадськості ", - підсумувала адвокат Клер Гарві (Clare Garvie), до якої видання The New York Times звернулося за коментарями.
