Сбивший американку насмерть самоуправляемый Uber «не знал», что люди могут оказаться на дороге без перехода Статьи редакции
Автомобиль не учили распознавать нарушителей дорожного движения.
Самоуправляемый Uber, сбивший велосипедистку в 2018 году, «не знал» о существовании пешеходов вне переходов. Из-за этого машина сначала приняла женщину за другой автомобиль, а потом за велосипед. Об этом говорится в отчётах Национального совета по безопасности на транспорте США (NTSB) по итогам расследования аварии.
По данным ведомствам, самоуправляемый Uber заметил велосипедистку за 5,6 секунд до столкновения. Так как машина не ожидала, что человек может оказаться на дороге вне пешеходного перехода, она сначала распознала женщину как другой автомобиль.
Система успела несколько раз сменить классификацию с «машины» на «другое», потом снова на «машину» и в итоге остановилась на велосипеде. К этому моменту до столкновения оставалось 1,2 секунды.
Однако самоуправляемый автомобиль не затормозил, потому что система потратила секунду на оценку потенциального столкновения. Автоматическое торможение началось только за 0,2 секунды до аварии, когда ПО Uber решило, что столкновение уже неизбежно.
Задержку в систему ввели намеренно — инженеров беспокоили ложные срабатывания и таким образом они избавились от проблемы. Кроме того, в Uber отключили встроенную автоматическую систему торможения Volvo, которая по заявлению производителя, могла бы снизить скорость до столкновения или избежать его.
В отчёте NTSB также говорится, что внутренняя рабочая структура Uber была построена ошибочно. В компании не было «культуры безопасности»: в подразделении самоуправляемых автомобилей не было ни операционного отдела безопасности ни даже менеджера по безопасности.
Смертельная авария с самоуправляемым Uber произошла в Аризоне 19 марта 2018 года. Машина сбила велосипедистку, которая переходила дорогу в неположенном месте.
После этого Uber приостановила тестирование самоуправляемых автомобилей в США, а американские власти начали расследование. В мае компания закрыла программу в Аризоне и уволила 300 сотрудников.
В июне 2018 года стало известно, что водитель самоуправляемого Uber смотрела за рулём американский аналог шоу «Голос». Она не видела велосипедистку, потому что не следила за дорогой.
В марте 2019 года американские власти заявили, что не станут предъявлять Uber уголовные обвинения из-за смерти женщины. Следствие не нашло оснований для привлечения корпорации к ответственности.
— КАКАЯ ТРАГЕДИЯ! ЗАПРЕТИТЬ! К ЧЁРТУ РАЗВИТИЕ, ЕСЛИ ОНО ПРЕДПОЛАГАЕТ НЕВИННЫЕ ЖЕРТВЫ! НАДО ОСТАНОВИТЬ ВСЕ ИССЛЕДОВАНИЯ И РАЗРАБОТКИ!
Каждый день во всём мире люди на машинах сами сбивают тысячи людей.— Ну, бывает.
Не говоря уже о том, что почти любая человеческая деятельность предполагает жертвы и возможный вред другим людям. Лифты иногда падают. Корабли тонут. Лекарства иногда убивают. Хирурги иногда неправильно режут. Промышленность дает блага, но и отбирает здоровье у миллиардов людей. Полиция иногда сажает не тех. Дома могут сгореть, как и бензиновые двигатели. Но это не повод от всего этого отказываться. Поэтому очень нелепо, когда печальный случай, ничем не выделяющийся на фоне каждодневной жатвы Молоха цивилизации, но на котором сфокусировали истеричное внимание СМИ, вдруг начинает влиять на судьбу технологии. Помню случаи, когда автомобильные компании отзывали миллионы машин, потому что дефекты конструкции приводили к смертельным ДТП. Что-то никто не предлагал запретить автомобили.
Комментарий недоступен
Комментарий недоступен
Следствие не нашло оснований для привлечения корпорации к ответственности.
Пиздец.
Ну, так-то женщина переходила в неположенном месте не по переходу.
так это первое, чему нужно было учить ии
Комментарий недоступен
Так пусть внесут правки в прошивку, что людей перебегающих проезжую часть можно давить.
Комментарий недоступен
Комментарий недоступен
Комментарий недоступен
Комментарий недоступен
МАШИНА САМА СБИВАЕТ БЕЗДУХОВНО
А наши водители, например, до сих пор не знают, что люди могут оказаться на дороге на пешеходном переходе.
А там QA вообще были? Это же один из очень важных corner cas’ов
Водителя определённо надо судить. За смотрение хуйни.
Комментарий недоступен
Все человеческие глупости в программном коде не учесть и не обучить нейросеть избегать падающих с неба парашютистов, вылезающих из канализационных люков по среди дороги людей и т.д. Машина с автопилотом должна ассоциироваться с промышленным оборудованием, которое при первой возможности превратит тебя в безжизненную кучу мяса, если ты попытаешся нарушить правила. Люди привыкли к тому, что водителю же не захочется сесть в тюрьму, остановится. Нет, так нельзя. Самое простое, надёжное и прогнозируемое решение для ИИ машины - продолжать ехать. Суета и экстренные манёвры могут только усугубить ситуацию и создать массовую автокатастрофу. А так, все "электронные вагонетки" едут всегда по своему пути и никогда не сворачивают, человеку это запомнить не сложно.
Комментарий недоступен
Тут вспомнилась трасса из Логана, полная самоуправляемых грузовиков. Полагаю что если бы человек туда вылез, то сам бы и был виноват.
Нет ни одной причины обучать нейросеть этим ситуациям, и правилам дорожного движения в целом.
И это ещё не возникала "проблема вагонетки", которую тоже нужно запрограммировать и внести в юридические документы.
Комментарий недоступен
Решил напомнить читателям историю про всемирный опрос Moral Machine и результаты
https://nplus1.ru/news/2018/10/25/the-moral-machine
В конечном итоге примерно так и будут запрограммированы беспилотники, опираясь на "коллективные решения".
Читывал фанатов самоездунских авто, что мол требования детально прописать методику поведения в разных ситуациях для ИИ авто - тупо палки в колеса прогрессу/лоббизм. Недолоббировали видать гражданку, на примере в топикстарте.
Ну почему, если допустим ты не на этапе построения модели это делаешь, а уже на этапе результатов встраиваешь всякие линейные правила - это норм, т.к. спасает от подобных ситуаций. Другое дело, что это костыли
Похоже, что учёный изнасиловал журналиста
Поконкретнее, пожалуйста
Можно фулл? друг просит
Комментарий недоступен
самоуправился блядь
Комментарий недоступен
Комментарий недоступен
Во всем виновато шоу "Голос"
"люди могут оказаться на дороге без перехода"(с) Какое же днище журналистики, епажмать...Без какого перехода? Спускаемся до уровня: "ну ты понял? - заебок..." #facepalm