В Великобритании на крупных железнодорожных вокзалах проводились испытания системы наблюдения с использованием искусственного интеллекта от Amazon. Об этом свидетельствуют недавно обнародованные документы.
В рамках программы программное обеспечение Amazon Rekognition анализировало лица тысяч пассажиров. Система распознавала возраст, пол, эмоции и другие данные. Испытания охватили восемь больших вокзалов, включая крупнейшие железнодорожные узлы Лондона.
Умная система безопасности
Цель проекта, курируемого компанией Network Rail, управляющей железнодорожной инфраструктурой Великобритании, заключалась в сокращении преступности за счет своевременного оповещения персонала о потенциально опасных ситуациях.
Система распознавала людей, выходящих на пути, большое скопление людей на платформе, подозрительных лиц (например, потенциальных воров велосипедов) и даже "антиобщественное поведение" (бег, крики, катание на скейтборде или курение). Дополнительно датчики следили за скользкими полами, переполненными мусорными баками и засоренными канализационными стоками.
Для реализации проекта Network Rail использовала комбинацию современных камер, способных распознавать объекты и движения в видеопотоке, а также старых камер видеонаблюдения, подключенных к облачному сервису Amazon Rekognition. Rekognition - это облачная платформа на базе искусственного интеллекта, анализирующая изображения и видеоролики, распознавая объекты, текст и лица.
Детали программы стали известны благодаря запросу правозащитной группы Big Brother Watch в рамках закона о свободе информации. Документы показывают, что по состоянию на апрель 2023 года на каждой из станций было установлено от 5 до 7 камер или датчиков с искусственным интеллектом.
Однако, как выяснилось, цели проекта выходили за рамки обеспечения безопасности.
Статистический анализ и реклама
Документы раскрывают, что система могла использовать изображения людей для "статистического анализа возрастной группы и полового состава". Кроме того, она могла анализировать эмоции, такие как счастье, грусть и гнев, сканируя выражения лиц. В одной из таблиц даже перечислено 50 потенциальных сценариев использования систем мониторинга с искусственным интеллектом, хотя, возможно, не все из них были протестированы.
Изображения фиксировались при пересечении пассажирами "виртуальной линии" у турникетов, а затем отправлялись на анализ в сервис Amazon Rekognition. Один из предложенных вариантов использования данных - оптимизация рекламы и увеличение доходов от розничной торговли на основе оценки удовлетворенности пассажиров.
Представитель Network Rail заявил изданию Wired, что агентство крайне серьезно относится к безопасности на железной дороге и использует передовые технологии, такие как искусственный интеллект, "для защиты пассажиров, сотрудников и железнодорожной инфраструктуры от преступлений и других угроз".
Однако правозащитники обеспокоены отсутствием прозрачности при внедрении систем наблюдения с использованием искусственного интеллекта в общественных местах. Потенциал неправомерного использования персональных данных, таких как демографический анализ и определение эмоций для таргетинга рекламы, становится особенно реальным, когда в процесс вовлечены крупные корпорации.
