Tesla FSD v14 ледь не з’їхала в кювет на швидкості 110 км/год
Чергове оновлення системи автономного водіння Tesla FSD v14.3.6 ледь не призвело до серйозної аварії на нічній трасі. Автомобіль під управлінням автопілота їхав автомагістраллю Autoroute 55 у регіоні Морісі (Квебек, Канада) зі швидкістю 110 км/год. Умови були ідеальними: сухий асфальт, відсутність інших машин, чітка розмітка та освітлені дорожні знаки. Попри це, система згенерувала раптову і небезпечну помилку.
Проїхавши під вказівником з’їзду №217, електромобіль увімкнув правий поворотник і почав різко зміщуватися на узбіччя. Проблема полягала в тому, що з’їзд з автостради залишився позаду, і маневр на такій швидкості вів напряму в кювет. Бортовий комп’ютер почав уповільнення - 110, 109, 107, 104 км/год, продовжуючи повертати. Водій встиг перехопити кермо, а режим автопілота вимкнувся лише на позначці 102 км/год. Це не було звичайним коливанням у смузі, а повноцінною спробою виконати поворот туди, де дороги вже не було.
Парадокс надійності та пастка довіри
Для автономних систем нічна траса з чіткою розміткою є найпростішим сценарієм. Саме у таких умовах нові версії автопілота демонструють найкращі результати, дозволяючи проїжджати тисячі кілометрів без втручання людини. Однак саме ця стабільність створює небезпечну пастку надмірної довіри.
Коли система тривалий час працює майже ідеально, водій втрачає пильність і припиняє постійно сканувати дорогу. Проте непередбачувані збої все одно трапляються, і реакція на них у критичний момент може виявитися запізнілою. Більше про те, чому автопілот Tesla FSD та його нова гейміфікація викликали хвилю критики через ризики втрати уваги, ми вже розглядали раніше.
Оновлення алгоритмів і статистика аварійності
У примітках до релізу v14.3.6 компанія Tesla зазначала, що оновила етап навчання нейромережі за допомогою навчання з підкріпленням (RL) та переписала компілятор штучного інтелекту через MLIR. Це мало б прискорити час реакції на 20% і зменшити кількість хибних відключень. Проте зниження кількості втручань може свідчити не лише про покращення софту, а й про те, що керманичі просто рідше контролюють процес.
Офіційні дані Національного управління безпеки руху на трасах США (NHTSA) показують тривожну тенденцію:
- Лише за один місяць Tesla зафіксувала рекордну кількість інцидентів з залученням Autopilot та FSD - 207 випадків.
- З 2019 року компанія подала 3 763 звіти про аварії за участю систем допомоги водієві, але у 99,9% випадків текстовий опис деталей було приховано.
Заяви Ілона Маска про швидкий запуск повністю автономного FSD без нагляду водія в США звучать оптимістично, але експерти галузі та конкуренти (зокрема керівництво Waymo) наголошують: система, яка покладається виключно на камери, все ще не забезпечує необхідного рівня безпеки для повноцінного безпілотного руху.
