Перец писал(а):
все правильно, технология тестируется, в процессе тестов отлаживается, а в целях безопасности сидит страхующий машину оператор, как доработают, так руль уберут и будут одни пассажиры 
так эти автопилоты давно на самолетах стоят. на тесле тоже есть автопилот, но там такая система если водитель долго не рулит автопилот сначала предупреждает выключается и тормозит.
Цитата:Инцидент произошёл 1 июня в 6:44 утра на 268-м километре Первой национальной автострады острова Тайвань. Водитель Tesla Model 3 включил автопилот и отвлёкся от дороги. Управляемый искусственным интеллектом электромобиль не распознал находящийся на полосе движения перевёрнутый грузовик и протаранил его.
Как сообщают местные СМИ, водитель фургона попытался уйти от столкновения с резко затормозившим впереди автомобилем, но не справился с управлением, вследствие чего грузовик повалился набок и перегородил левую полосу. Водитель грузовика не пострадал, вылез из кабины и стал дожидаться помощи у разделительного бетонного барьера. Другие участники дорожного движения благополучно объезжали внезапно возникшую на пути помеху, но не Tesla Model 3, за рулём которой находился 53-летний мистер Хуанг (Huang). Он активировал автопилот электромобиля и отвлёкся от дороги. Искусственный интеллект проигнорировал лежащий на полосе грузовик и не стал снижать скорость. К счастью, за мгновение до столкновения мистер Хуанг сам увидел помеху, применил экстренное торможение, но избежать ДТП не смог: электромобиль протаранил крышу фургона и застрял в ней.
По свидетельству водителя Model 3, автопилот управлял электромобилем на скорости около 110 км/ч, и если бы мистер Хуанг не ударил по тормозам, то последствия аварии были бы куда более плачевными, а так мистер Хуанг благополучно вышел из машины, и, как и водитель грузовика, отказался от медицинской помощи, когда на место аварии прибыли экстренные службы.
В общем, всё обошлось, и на этот раз никто не погиб, но тайваньская авария заинтересовала нас своим типовым сценарием: в очередной раз автопилот Tesla не распознал светлый прямоугольный фургон, перегородивший дорогу. Первая такая авария произошла 7 мая 2016 года в американском штате Флорида: Джошуа Браун, водитель Tesla Model S, активировал автопилот, а тот не распознал пересекавшую дорогу фуру и направил электромобиль прямо под полуприцеп. Джошуа Браун в результате ДТП погиб.
1 марта 2019 года во Флориде произошла аналогичная авария: водитель Tesla Model 3 Джереми Берен Баннер активировал автопилот, искусственный интеллект не распознал пересекавшую дорогу фуру и направил электромобиль под полуприцеп. Водитель Tesla от полученных в результате столкновения травм скончался.
Тайваньская авария, по сути, повторяет инциденты во Флориде: ясная погода и препятствие в виде большого светлого прямоугольника, который автопилот игнорирует. Впрочем, похожие аварии с участием автопилота Tesla случались и в тёмное время суток. Вечером 10 августа прошлого года в Москве на МКАДе Tesla Model 3 на автопилоте влетел в стоящий у разделительный полосы эвакуатор ГАЗель. От удара электромобиль загорелся, но водитель Алексей Третьяков и его дети сумели выбраться наружу с помощью неравнодушных очевидцев.
Ночью 7 декабря 2019 года в американском штате Коннектикут Tesla Model 3, находившийся, по утверждению водителя, в режиме автопилота, врезался в корму припаркованного у разделительной полосы патрульного Ford Taurus со включёнными проблесковыми маячками.
Были и другие похожие аварии, но и перечисленных достаточно, чтобы утверждать, что у автопилота Tesla есть явные проблемы с распознанием крупных статических объектов, находящихся у него на пути. Многие эксперты в области автономного вождения утверждают, что если бы Tesla снабжала свои машины хотя бы одни фронтальным лидаром, то подобных аварий удалось бы избежать, но Tesla делает ставку исключительно на камеры и радары, а их возможностей для безопасной работы автопилота недостаточно.
Глава компании Tesla Илон Маск не раз уверял, что разработанный его специалистами автопилот постоянно совершенствуется, но тайваньская авария показывает, что никакого заметного прогресса пока нет.
Добавим, что сейчас автопилот Tesla официально является всего лишь вспомогательной системой и требует постоянного контроля со стороны человека, то есть это система автономного вождения максимум второго уровня по классификации SAE. Но многие пользователи по факту эксплуатируют её как систему третьего уровня, отпускают руль, не следят за дорогой и не обращают внимание на подаваемые системой тревожные сигналы. Tesla, конечно, могла бы настроить свой автопилот так, чтобы он автоматически снижал скорость и уводил автомобиль на обочину, если водитель не хочет участвовать в управлении, но тогда бы она разом потеряла десятки тысяч бесплатных испытателей своего автопилота. В свою очередь клиенты Tesla стали бы куда мене охотно доплачивать за автопилот, если бы его приходилось постоянно контролировать. В случае Tesla Model 3 доплата за автопилот, который скоро сможет управлять автомобилем не только на автострадах, но и в городском трафике, составляет 7000 долларов.
https://www.kolesa.ru/news/avtopilot-tesla-ne-uchitsya-na-oshibkakh-ocherednoe-dtp-s-gruzovikom-na-avtostrade