Исследователи безопасности из компании McAfee провели необычный эксперимент с участием двух автомобилей Tesla. С помощью кусочка изоленты хакерам удалось заставить беспилотники почти втрое превысить скорость.
Исследователи слегка модифицировали знак с ограничением скорости в 35 миль/ч (около 56 км/ч). Полоску изоленты наклеили на среднюю часть цифры 3 таким образом, чтобы полученное в результате число можно было принять и за 35, и за 85:
Как показали эксперименты, система компьютерного зрения Tesla сделала выбор в пользу более высокой скорости, интерпретировав знак как “ограничение” в 85 миль/ч (около 137 км/ч). В результате машина превысила скорость почти втрое - на 50 миль/ч (около 80 км/ч).
Стоит отметить, что в обоих случаях в тесте принимали участие не самые новые машины Tesla. Обман сработал только с теми моделями, на которые был установлен аппаратный комплект компьютерного зрения Hardware Pack 1. Этот комплект устанавливался на автомобили с 2014 по 2016 год. На более новых моделях Tesla трюк не срабатывает, поскольку они вообще не полагаются на визуальное распознавание дорожных знаков, а используют для навигации собственные карты. Впрочем, по данным McAfee, старую систему в данный момент используют более 40 млн автомобилей, и среди них есть не только Tesla.
В целом, эксперимент должен стать очередным напоминанием о том, что на текущий момент в мире не существует абсолютно надежного автомобильного автопилота. Когда же надежная система появится, разработчикам придется научить ее не только читать дорожные знаки, но и задумываться об их уместности в конкретной дорожной ситуации.
Если хотите получать новости через мессенджер, подписывайтесь на новый Telegram-канал iGate
