На YouTube произошел курьезный случай. Алгоритм системы, отвечающий за автоматическое распознавание контента, принялся блокировать каналы, на которых размещались видео с боями роботов. В письмах, которые получали владельцы каналов, указывалась очень странная причина: “жестокое обращение с животными”.
Чтобы вы понимали, о чем идет речь, вот один из роликов, на котором запечатлено “жестокое обращение с животными”:
Сообщение о проблеме опубликовал инженер Джеймисон Го, который со своими машинами участвует в подобных состязаниях. “Сегодня печальный день. Создатели роботов по всему миру рыдают, поскольку алгоритм YouTube по ошибке идентифицировал видео со спортивными роботами как “жестокое обращение с животными” или “петушиные бои”. Сегодня я потерял девять видео, но другие потеряли сотни”, - написал он.
Конечно, все оказалось не так печально. Представители YouTube подтвердили ошибку алгоритма и вернули удаленные каналы владельцам. По словам экспертов, скорость сражающихся машин и звуки, которые они издают, ввели систему в заблуждение, заставив ее воспринимать роботов как живых созданий. Никаких правил, которые бы запрещали подобные ролики, на YouTube нет. По крайней мере пока.
Пользователи в сети шутят, что искусственный интеллект просто начал защищать “своих”. Но, если отбросить шутки в сторону, ситуация превращается в очередное напоминание, почему нам не стоит доверять ИИ-системам решение серьезных задач в сфере общественной безопасности. Ведь если система распознавания образов может перепутать робота с животным, то и двух людей она спутает запросто.
