Ученые придумали, как запутать Автопилот

Исслeдoвaтeли из Унивeрситeтa Вaшингтoнa пытaлись зaпутaть автоматическое рулевое управление транспортного средства с искаженным дорожные знаки, и им это удалось.

С помощью нескольких цветных наклеек и знаков, так как они могут вызвать неадекватную реакцию на беспилотник, путая его системе. Это позволило исследователям определить, как Автопилот воспринимает немного изменил картинки в значительной степени определяют его поведение. В почти всех случаях они не вызывают неожиданные реакции системы.

Например, знак «стоп» с несколько небольших прямоугольных наклеек, не перекрывать основное изображение, Автопилот, который воспринимается как ограничение скорости. Тот же знак «стоп» с двумя маленькими метки выше и ниже слово «стоп» и просто темные изображения одних и тех же персонажей, Автопилот воспринял это как сигнал к ограничению скорости.

Изменить с помощью серой наклейки, знак «движение только направо», Автопилот интерпретируется как «стоп». Исследователи провели другие эксперименты, которые показывают, как легко можно влиять на поведение автопилота с помощью самых простых вещей. В экспериментах не использовали Автопилот от конкретного производителя. Мы говорим об алгоритмах, применяемых в системах независимого расследования.

Источник: Мотор

Комментарии запрещены.

Счетчик