Команда из восьми исследователей обнаружила, что, изменяя уличные знаки, злодеи может путать автомобили с самообслуживанием и заставлять их системы машинного обучения ошибочно классифицировать знаки и принимать неправильные решения, потенциально подвергая опасности жизни пассажиров.
Идея этого исследования состоит в том, что злоумышленник мог распечатать совершенно новый плакат и наложить его поверх существующего знака или прикрепить меньшие наклейки на законный знак, чтобы обмануть самовольный автомобиль, подумав, что он выглядит на другом типе уличного знака.
В итоге подобные "уличные знаки" останавливают работу робота-автомобиля в 67% до 100% случаев.
31 августа 2017
Проверка автомобилей-роботов
