Tesla FSD v14 чуть не съехала в кювет на скорости 110 км/ч
Очередное обновление системы автономного вождения Tesla FSD v14.3.6 чуть не привело к серьезной аварии на ночной трассе. Автомобиль под управлением автопилота ехал по автомагистрали Autoroute 55 в регионе Мориси (Квебек, Канада) со скоростью 110 км/ч. Условия были идеальными: сухой асфальт, отсутствие других машин, четкая разметка и освещенные дорожные знаки. Несмотря на это, система сгенерировала внезапную и опасную ошибку.
Проехав под указателем съезда №217, электромобиль включил правый поворотник и начал резко смещаться на обочину. Проблема заключалась в том, что съезд с автострады остался позади, и маневр на такой скорости вел прямо в кювет. Бортовой компьютер начал замедление - 110, 109, 107, 104 км/ч, продолжая поворачивать. Водитель успел перехватить руль, а режим автопилота отключился только на отметке 102 км/ч. Это было не обычным колебанием в полосе, а полноценной попыткой выполнить поворот туда, где дороги уже не было.
Парадокс надежности и опасная ловушка доверия
Для автономных систем ночная трасса с четкой разметкой является самым простым сценарием. Именно в таких условиях новые версии автопилота демонстрируют лучшие результаты, позволяя проезжать тысячи километров без вмешательства человека. Однако именно эта стабильность создает опасную ловушку чрезмерного доверия.
Когда система длительное время работает почти идеально, водитель теряет бдительность и прекращает постоянно сканировать дорогу. Однако непредсказуемые сбои все равно случаются, и реакция на них в критический момент может оказаться запоздалой. Больше о том, почему автопилот Tesla FSD и его новая геймификация вызвали волну критики из-за рисков потери внимания, мы уже рассматривали ранее.
Обновление алгоритмов и свежая статистика аварийности
В примечаниях к релизу v14.3.6 компания Tesla отмечала, что обновила этап обучения нейросети с помощью обучения с подкреплением (RL) и переписала компилятор искусственного интеллекта через MLIR. Это должно было ускорить время реакции на 20% и уменьшить количество ложных отключений. Однако снижение количества вмешательств может свидетельствовать не только об улучшении софта, но и о том, что водители просто реже контролируют процесс.
Официальные данные Национального управления безопасностью движения на трассах США (NHTSA) показывают тревожную тенденцию:
- Только за один месяц Tesla зафиксировала рекордное количество инцидентов с участием Autopilot и FSD - 207 случаев.
- С 2019 года компания подала 3 763 отчета об авариях с участием систем помощи водителю, но в 99,9% случаев текстовое описание деталей было скрыто.
Заявления Илона Маска о скором запуске полностью автономного FSD без присмотра водителя в США звучат оптимистично, но эксперты отрасли и конкуренты (в частности руководство Waymo) подчеркивают: система, полагающаяся исключительно на камеры, все еще не обеспечивает необходимого уровня безопасности для полноценного беспилотного движения.
