Федеральные органы по контролю за безопасностью начали расследование смерти водителя Tesla Model S, чей автомобиль двигался в режиме автопилота. Это первый известный случай смертельной аварии с участием системы частичной автоматизации компании и определяющая проверка того, как водители, производители и правительство понимают технологии, которые могут управлять автомобилем, но не могут заменить внимание человека.

В результате столкновения 7 мая в Уиллистоне, штат Флорида, погиб 40-летний Джошуа Браун, когда грузовик с прицепом повернул налево, перегородив путь автомобилю Tesla. Согласно заявлению Tesla, опубликованному в четверг, ни водитель, ни автопилот не применили тормоза, поскольку система не смогла отличить белую сторону прицепа от ярко освещенного неба. Автомобиль проехал под прицепом.

Национальное управление безопасности дорожного движения (NHTSA) начало предварительную оценку примерно 25 000 автомобилей Model S. Агентство заявило, что в ходе расследования будут изучены конструкция и характеристики используемых на тот момент систем автоматического вождения; начало расследования не означает, что регулирующие органы обнаружили дефект.

Система, разработанная для помощи водителю, а не для его замены

Автопилот объединяет камеры, радар, ультразвуковые датчики и цифровые карты для удержания полосы движения, регулирования скорости и смены полосы под управлением водителя. Tesla представила эти функции посредством обновления программного обеспечения в октябре прошлого года — необычная модель внедрения, которая предоставила существующим автомобилям новые возможности без посещения сервисного центра.

Система не является автономной. Tesla требует от водителей держать руки на руле и быть готовыми взять управление на себя. Визуальные и звуковые предупреждения усиливаются, если автомобиль не обнаруживает движений руля. В руководстве пользователя Model S система Autosteer описывается как бета-версия, предназначенная для автомагистралей, и предупреждается о недопустимости её использования на улицах с перекрестками или непредсказуемым движением.

Технически это различие очевидно, но на поведенческом уровне оно нестабильно. Система, способная управлять транспортным средством в течение длительного времени, может побудить водителей рассматривать контроль как необязательный, особенно если она работает надежно большую часть времени. Автоматизация может снизить рабочую нагрузку, но при этом затруднить редкие случаи необходимости немедленного вмешательства, поскольку человек вытесняется из контура управления.

Авария обнажила границы машинного восприятия

Авария во Флориде представляет собой сложный с визуальной точки зрения случай: большой белый прицеп пересекает дорогу на ярком фоне. В Tesla заявили, что большая высота прицепа и его положение поперек дороги способствовали серьезности происшествия. Радарные и камерные системы должны классифицировать объекты, прогнозировать движение и решать, требуется ли торможение, не реагируя при этом опасно на мосты, знаки и другие надземные сооружения.

Агентство Reuters сообщило , что, по предварительной информации, грузовик с прицепом поворачивал на перекрестке на чистой, сухой дороге. Следователям понадобятся данные бортовых журналов, показания датчиков и вещественные доказательства, чтобы определить скорость, действия водителя, предупреждения и точную реакцию каждой подсистемы.

Этот случай также подчеркивает важность термина «автопилот». Tesla использует его по аналогии с авиацией, где автоматизированные системы по-прежнему требуют наличия обученных пилотов. Обычные водители могут услышать более убедительное обещание. Компания неоднократно заявляет, что водители должны оставаться ответственными, но названия продуктов, демонстрации и опыт вождения без участия водителя могут формировать ожидания так же сильно, как и предупреждения.

Регулирование смещается в сторону программного обеспечения

NHTSA системой автоматизации транспортных средств, системы помощи водителю отличаются от систем, способных выполнять все функции управления автомобилем. Автопилот относится к первой категории: он контролирует рулевое управление и скорость в ограниченных условиях, в то время как человек следит за окружающей обстановкой.

Традиционные правила автомобильной техники построены вокруг физических компонентов и дефектов. Поведение, управляемое программным обеспечением, меняется быстрее, может обновляться по беспроводной связи и зависит от взаимодействия датчиков, кода, дорожных условий и действий человека. Поэтому расследование должно включать в себя не только вопрос о том, вышла ли из строя та или иная деталь, но и вопрос о том, были ли ограничения и предупреждения системы разумно разработаны с учетом предсказуемого поведения водителя.

Tesla заявляет, что клиенты проехали более 130 миллионов миль с включенным автопилотом, и сравнивает количество смертельных случаев в этой ситуации с примерно одной смертельной аварией на дорогах США, которая происходит примерно каждые 94 миллиона миль. Это сравнение носит предварительный характер и не может установить относительную безопасность, поскольку пробег с включенным автопилотом приходится на дороги и условия, отличающиеся от средних по стране, а также потому, что данные об использовании не были независимо проанализированы.

В современной технической статье Wired отмечается, что быстрое внедрение Tesla отличается от более консервативного подхода, планируемого традиционными автопроизводителями. Такая скорость позволяет быстрее получать данные и вносить улучшения в реальных условиях, но при этом большая часть тестовой среды передается клиентам.

Прозрачность определит уровень доверия к частичной автоматизации

Смерть водителя не доказывает, что автоматизированное вождение менее безопасно, чем вождение человеком. Человеческий фактор является причиной подавляющего большинства аварий, и хорошо продуманная система помощи водителю могла бы предотвратить многие из них. Автоматическое экстренное торможение, удержание полосы движения и предупреждения о столкновении уже приносят пользу, не требуя полной автономности.

Однако прогресс зависит от точного описания возможностей и ограничений. Классификация автоматизации, разработанная Обществом автомобильных инженеров, разделяет системы, помогающие в выполнении одного или нескольких действий, от систем, контролирующих обстановку во время движения. Автопилот по-прежнему требует от водителя выполнения этого контроля. Публичная формулировка, размывающая эти уровни, может привести к злоупотреблениям, даже если юридические предупреждения являются точными.

Подход Tesla также вызывает вопросы о доступе к данным. Компания может получать подробные журналы движения транспортных средств и удаленно обновлять программное обеспечение, что дает ей необычайно глубокое понимание инцидентов. Регуляторам необходим достаточный доступ для проверки заявлений компании и выявления закономерностей в авариях и случаях, близких к аварии. Водители должны быть четко уведомлены о том, какая информация записывается и как она используется.

NHTSA по безопасности автоматизированных транспортных средств поощряет инновации, одновременно разрабатывая политику для все более совершенных систем. Расследование во Флориде проверит, насколько существующие инструменты адекватны в условиях, когда программное обеспечение меняется быстрее, чем формальные правила.

В первую очередь, основное внимание будет уделено одному автомобилю, одному грузовику и одному перекрестку. Более широкое значение этого вопроса заключается в миллионах будущих случаев передачи управления от человека к машине. Частичная автоматизация занимает сложнейшее промежуточное положение: она достаточно мощная, чтобы внушать доверие, и достаточно ограниченная, чтобы требовать бдительности. Безопасность этого перехода будет зависеть не только от улучшения датчиков, но и от того, будут ли технологии разработаны с учетом реального поведения людей, когда машина, по-видимому, управляет автомобилем за них.