Автопилот Tesla путает настоящие дорожные знаки с фальшивыми. Он постоянно останавливает машину перед рекламными билбордами с нарисованным знаком “Стоп”.
Об этом недавно рассказал владелец Tesla по имени Энди Уидман. Он заметил, что автомобиль сам регулярно беспричинно останавливается на одном и том же участке пути. В конце концов Уидман понял: автомобиль реагирует на гигантский знак “Стоп”, нарисованный на рекламном билборде у дороги:
На моменте 2:25 видно, как автомобиль, увидев билборд, начинает сбрасывать скорость с разрешенных 35 миль в час до нуля. Потом он продолжает движение, но объективных причин для остановки на пустой дороге у него не было.
Почему это важно?
Это забавный сбой, который, тем не менее, иллюстрирует серьезную уязвимость. Каким бы продвинутым ни был автопилот, он все еще может быть легко сбит с толку. Причиной может быть случайность или чей-то злой умысел, но важно не это.
Совокупность необычных сценариев, с которыми может столкнуться автомобиль - это целый хаотичный мир, который слишком сложен, чтобы поддаваться алгоритмизации. И очевидных путей решения у этой проблемы нет.
Например, Tesla научит свои автомобили отличать настоящие знаки от нарисованных. Но это автоматически повысит риск того, что система примет настоящий знак “Стоп” за фальшивку. Цена такой ошибки может быть очень высока.
Потому, вероятнее всего, в обозримом будущем автопилот будет оставаться лишь вспомогательным инструментом, призванным помочь водителю, а не заменить его полностью.
