Как компьютер подставил негра

0
Арестовали из-за ошибки системы распознавания лиц

Американский союз гражданских свобод (ACLU) подали официальную жалобу на полицию Детройта по поводу первого известного случая неправомерного ареста из-за ошибки технологии распознавания лиц.

Роберт Джулиан-Борчак Уильямс, чернокожий американец, был арестован после того, как система распознавания лиц ложно сопоставила его фотографию с видеозаписью, сделанной сотрудником службы безопасности. ACLU призывает закрыть дело Уильямса и удалить его информацию из криминальных баз данных Детройта. После переговоров прокуроры согласились удалить его данные, рассказывает The New York Times (перевод computerra.ru).

Ограбление, в котором Уильямс был обвинен, было совершено в октябре 2018 года. В марте 2019 года кадр из видео с камер наблюдения магазина был загружен в базу данных по распознаванию лиц штата Мичиган. Система выдала серию фотографических совпадений. Снимок Уильямса был включен в папку фотографий, которые показали охраннику магазина. Этот охранник, который, по данным ACLU, не был свидетелем ограбления, лично идентифицировал Уильямса.

Опознание привело к тому, что Уильямс был арестован на подъездной дорожке его дома в январе, после чего был взят под стражу в общей сложности на 30 часов. Уильямс рассказал о своем аресте в статье для The Washington Post. Он говорит, что следователь сравнил фотографию грабителя из видеозаписи с лицом Уильямса, после чего один из сыщиков сказал: «Компьютер, должно быть, ошибся».

Хотя дело Уильямса было закрыто через две недели после его ареста, в результате ареста в базе данных теперь хранятся образец ДНК Уильяма, фотография и отпечатки пальцев. Также арест был зарегистрирован в протоколе.

Представитель полиции Детройта сообщил, что департамент принял решение прокурора о прекращении дела, и что с июля 2019 года политика департамента заключалась в том, чтобы использовать распознавание лиц только для расследования насильственных преступлений.

После случая Уильямса, несколько высокотехнологичных компаний, в том числе IBM, Microsoft и Amazon, объявили, что остановят или приостановят работу систем по распознаванию лиц. «Мы считаем, что сейчас самое время начать общеамериканский диалог о том, следует ли применять технологию распознавания лиц в местных правоохранительных органах и как лучше организовать их работу», — заявил генеральный директор IBM Арвинд Кришна в своем заявлении ранее в этом месяце.

Системы распознавания лиц используют программное обеспечение для сопоставления изображения лица с фотографиями, хранящимися в базе данных. Ее все чаще изучают защитники гражданских свобод, технологи и законодатели в связи с опасениями по поводу алгоритмической дискриминации и несовершенства технологии.

В США технология распознавания лиц подвергалась критике в течение многих лет, и исследователи показали, что система предвзята по отношению к представителям разных рас и этнических групп.

Share.

Comments are closed.