Читать книгу Цифровая гигиена. Том 6 - Владимир Безмалый - Страница 6

Лето… Жара… А тут еще карантин. Боб уже не раз думал, что худшего не может быть… Оказалось, очень даже может. Носить маску в такую жару – это не просто ужасно. Через час потеет все лицо и потом покрывается сама маска. Как люди ходят в них на улице – непонятно совсем.

– Боб, ты видел результаты системы распознавания лиц, внедренной в аэропорту и на вокзале?

– Да. Мы за два дня сумели поймать больше разыскиваемых, чем за три года перед этим.

– Знаешь, что губернатор приказал еще два месяца назад внедрить ее во всех крупных населенных пунктах и на всех вокзалах?

– Конечно!

– Представь, насколько работать станет легче!

– Не думаю!

– Почему?

– Потому что в результате полицейские могут просто разучиться думать! Они будут верить в то, что камеры не ошибаются. А ведь это просто еще один фактор поиска, и не более!

– Согласен, но удобно же.

– Эй вы, хватит болтать! Кажется, полицейские задержали для проверки некоего Роберта В. Система распознавания лиц определила в нём преступника, который два года назад совершил магазинную кражу. Его доставили в участок.

– А еще какие-то улики есть?

– Нет! Но его ведь опознали?

– Боб, кажется, это то, о чем мы только что говорили. Его арестовали?

– Да! Ну а как же? Его ж опознали. Его пока задержали на 48 часов, и наша задача понять, он или не он совершил кражу.

– Для начала нужно проверить, а был ли он вообще в тот момент в городе, может у него алиби?

– Боб, я не понимаю, ты что, адвокат?

– Нет, конечно! Но я не хочу осудить невиновного, так как прекрасно понимаю, что в любом программном продукте может быть ошибка. И не одна. Давай проверим еще раз, где он находился.

Прошло четыре часа.

– Боб, увы, ты оказался прав. Он в момент ограбления был не только в другом городе, а даже в другом штате. Вот документ. Он был оштрафован полицейским патрулем за превышение скорости. Так что он невиновен.

– Нужно выпускать и извиниться.

– Да.

Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания.

Примечательно, что ПО для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

Этот случай создал прецедент, который указывает на гораздо более обширную проблему – всецело доверять алгоритмам искусственного интеллекта пока нельзя.