Автомобильный автопилот научили игнорировать дорожные знаки С помощью светодиодов

Атака под названием GhostStripe незаметна глазу — она нацелена на CMOS-сенсоры бортовых камер, которые используются в разных автопилотах, и заключается в подсветке дорожных знаков разными цветами при помощи светодиодов таким образом, чтобы помешать автомобилю распознать их. Из-за того, что светодиоды мигают разными цветами, когда камера сканирует знак, красный цвет на знаке STOP будет разных оттенков на каждой линии сканирования.

Камера отправляет «полосатое» изображение на распознавание классификатору в ПО автомобиля, работа которого обычно основана на нейросетях. Поскольку на изображении будет присутствовать множество цветных полос, классификатор не распознает его как дорожный знак — и автомобиль его проигнорирует. Первый тип атаки (GhostStripe1) не требует физического доступа к автомобилю и работает через систему мониторинга.

Второй (GhostStripe2) требует установки датчика на провод питания камеры. Сенсор определяет момент кадрирования, что позволяет точнее управлять светодиодами для проведения идеальной атаки. Ученые протестировали свой метод в реальных дорожных условиях на автомобиле с камерой Leopard Imaging AR023ZWDR и знаках «Стоп», «Уступи дорогу» и «Ограничение скорости». Атака GhostStripe1 сработала в 94% случаев, GhostStripe2 — в 97%, но яркий свет снижал ее эффективность.

Для защиты от подобных атак проще всего заменить CMOS-камеру со скользящим затвором на камеру с кадровым затвором, которая делает весь снимок сразу. Особенно если увеличить число камер на автомобиле. Атаку GhostStripe можно включить в процесс обучения ИИ автопилота, чтобы система могла распознавать такие атаки.

Здесь мы рассказываем про юридические аспекты беспилотного транспорта: