Американский союз защиты гражданских свобод (ACLU) обратился к гендиректору Amazon Джеффу Безосу с просьбой прекратить продажи системы распознавания лиц Rekognition полиции. Под письмом ACLU подписались представители ещё нескольких десятков правозащитных организаций.
Подразделение Amazon Web Services представила Rekognition в 2016 году. Система использует искусственный интеллект для быстрой идентификации людей на фото и видео, а также распознавания текстов. По собственным данным AWS, система способна распознать до 100 лиц на изображениях с большим количеством людей.
В письме Безосу представители ACLU утверждают, что власти могут злоупотреблять возможностями технологии, что представляет серьёзную угрозу для инакомыслящих, иммигрантов и чернокожих. Это также может ударить по доверию и уважению к Amazon, следует из письма.
Союз изучил маркетинговые материалы и документы AWS и заметил, что среди клиентов компании есть власти города Орландо (штат Флорида) и офис шерифа округа Вашингтон. Наибольшее беспокойство у ACLU вызвал проект Орландо по распознаванию лиц с изображений городских камер в режиме реального времени. О нём в начале мая рассказал директор Rekognition Ранджу Дас на конференции AWS в Сеуле.
Автоматизируя массовое наблюдение, системы распознавания лиц вроде Rekognition создают угрозу для свободы граждан, особенно сообществ, которые «несправедливо стали мишенью современного политического климата», заявили в союзе.
В качестве доказательства того, что технологии Amazon могут использоваться для массовой слежки за людьми, ACLU приводит отрывок из официального сообщения AWS.
«Вы можете точно идентифицировать демографические данные и анализировать настроение всех лиц на групповых фотографиях, массовых мероприятиях и в общественных местах, таких как аэропорты и магазины» - говорится в официальном анонсе AWS.
Amazon не только продаёт властям технологии, но и помогает их развёртывать, уверены в ACLU. В качестве одного из доказательств они приводят запись в блоге на официальном сайте AWS от июня 2017 года. Ее опубликовал старший аналитик информационных систем офиса шерифа округа Вашингтон. Он рассказал, как при содействии специалистов Rekognition им удалось отсканировать 300 тысяч снимков арестованных преступников для электронной базы.
В распоряжении ACLU также оказались письма сотрудникам поддержки Amazon от правительственных учреждений и ответы на них.
Так, в одном из писем сотрудник правоохранительных органов интересуется, можно ли улучшить технологию, чтобы она различала и автоматически добавляла описание татуировок заключённых. Система уже отмечает на фото всех заключённых с татуировками, но офицера интересует возможность сделать более точные теги: например, татуировка с драконом или с цветком.
Представитель Amazon сообщил Bloomberg, что компания требует от клиентов соблюдать законы и ответственно подходить к использованию Rekognition. «Когда мы обнаруживаем, что клиент злоупотребляет услугами AWS, мы приостанавливаем его права на использование наших сервисов», — отметил он.
В компании добавили, что различные организации используют Rekognition для поиска пропавших и похищенных людей, но конкретных примеров не привели. Также систему используют некоторые парки развлечений, чтобы находить потерянных детей. Среди других клиентов Reakognition — сервисы Pinterest и SmugMug, которые используют его для распознавания текста на изображениях, загруженных пользователями.
Информация предоставлена по материалам vc
