{"id":2175,"url":"\/distributions\/2175\/click?bit=1&hash=803b6e1bcbd9dfc4ba9456fda887a878c80d24df8d3a575913b14876e18923a5","title":"TJ \u0437\u0430\u043a\u0440\u043e\u0435\u0442\u0441\u044f 10 \u0441\u0435\u043d\u0442\u044f\u0431\u0440\u044f \u2014\u00a0\u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0439\u0442\u0435 \u0430\u043d\u043e\u043d\u0441 \u0441 \u0434\u0435\u0442\u0430\u043b\u044f\u043c\u0438","buttonText":"\u0427\u0438\u0442\u0430\u0442\u044c","imageUuid":"d1d355d8-93a3-5140-aeae-14b03046b760","isPaidAndBannersEnabled":false}

Сбивший американку насмерть самоуправляемый Uber «не знал», что люди могут оказаться на дороге без перехода Статьи редакции

Автомобиль не учили распознавать нарушителей дорожного движения.

Самоуправляемый Uber, сбивший велосипедистку в 2018 году, «не знал» о существовании пешеходов вне переходов. Из-за этого машина сначала приняла женщину за другой автомобиль, а потом за велосипед. Об этом говорится в отчётах Национального совета по безопасности на транспорте США (NTSB) по итогам расследования аварии.

По данным ведомствам, самоуправляемый Uber заметил велосипедистку за 5,6 секунд до столкновения. Так как машина не ожидала, что человек может оказаться на дороге вне пешеходного перехода, она сначала распознала женщину как другой автомобиль.

Система успела несколько раз сменить классификацию с «машины» на «другое», потом снова на «машину» и в итоге остановилась на велосипеде. К этому моменту до столкновения оставалось 1,2 секунды.

Однако самоуправляемый автомобиль не затормозил, потому что система потратила секунду на оценку потенциального столкновения. Автоматическое торможение началось только за 0,2 секунды до аварии, когда ПО Uber решило, что столкновение уже неизбежно.

Задержку в систему ввели намеренно — инженеров беспокоили ложные срабатывания и таким образом они избавились от проблемы. Кроме того, в Uber отключили встроенную автоматическую систему торможения Volvo, которая по заявлению производителя, могла бы снизить скорость до столкновения или избежать его.

В отчёте NTSB также говорится, что внутренняя рабочая структура Uber была построена ошибочно. В компании не было «культуры безопасности»: в подразделении самоуправляемых автомобилей не было ни операционного отдела безопасности ни даже менеджера по безопасности.

Смертельная авария с самоуправляемым Uber произошла в Аризоне 19 марта 2018 года. Машина сбила велосипедистку, которая переходила дорогу в неположенном месте.

После этого Uber приостановила тестирование самоуправляемых автомобилей в США, а американские власти начали расследование. В мае компания закрыла программу в Аризоне и уволила 300 сотрудников.

В июне 2018 года стало известно, что водитель самоуправляемого Uber смотрела за рулём американский аналог шоу «Голос». Она не видела велосипедистку, потому что не следила за дорогой.

В марте 2019 года американские власти заявили, что не станут предъявлять Uber уголовные обвинения из-за смерти женщины. Следствие не нашло оснований для привлечения корпорации к ответственности.

0
84 комментария
Написать комментарий...
Кодзим Дедстрендыч
Технически охрененно сложная машина ошиблась в расчётах, сбив одного человека.

— КАКАЯ ТРАГЕДИЯ! ЗАПРЕТИТЬ! К ЧЁРТУ РАЗВИТИЕ, ЕСЛИ ОНО ПРЕДПОЛАГАЕТ НЕВИННЫЕ ЖЕРТВЫ! НАДО ОСТАНОВИТЬ ВСЕ ИССЛЕДОВАНИЯ И РАЗРАБОТКИ!
 

Каждый день во всём мире люди на машинах сами сбивают тысячи людей.

— Ну, бывает.

Ответить
Развернуть ветку
Бипедальный Гоминид

Не говоря уже о том, что почти любая человеческая деятельность предполагает жертвы и возможный вред другим людям. Лифты иногда падают. Корабли тонут. Лекарства иногда убивают. Хирурги иногда неправильно режут. Промышленность дает блага, но и отбирает здоровье у миллиардов людей. Полиция иногда сажает не тех. Дома могут сгореть, как и бензиновые двигатели. Но это не повод от всего этого отказываться. Поэтому очень нелепо, когда печальный случай, ничем не выделяющийся на фоне каждодневной жатвы Молоха цивилизации, но на котором сфокусировали истеричное внимание СМИ, вдруг начинает влиять на судьбу технологии. Помню случаи, когда автомобильные компании отзывали миллионы машин, потому что дефекты конструкции приводили к смертельным ДТП. Что-то никто не предлагал запретить автомобили.

Ответить
Развернуть ветку
7 комментариев
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
1 комментарий
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
9 комментариев
Посторонний
 Однако самоуправляемый автомобиль не затормозил, потому что система потратила секунду на оценку потенциального столкновения. Автоматическое торможение началось только за 0,2 секунды до аварии, когда ПО Uber решило, что столкновение уже неизбежно. Задержку в систему ввели намеренно — инженеров беспокоили ложные срабатывания и таким образом они избавились от проблемы. 
Следствие не нашло оснований для привлечения корпорации к ответственности.

Пиздец.

Ответить
Развернуть ветку
Миша Давыдов

Ну, так-то женщина переходила в неположенном месте не по переходу.

Ответить
Развернуть ветку
16 комментариев
испанский смех

так это первое, чему нужно было учить ии

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
1 комментарий
Неолд

Так пусть внесут правки в прошивку, что людей перебегающих проезжую часть можно давить.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт заморожен

Комментарий недоступен

Ответить
Развернуть ветку
Кодзим Дедстрендыч

МАШИНА САМА СБИВАЕТ БЕЗДУХОВНО

Ответить
Развернуть ветку
1 комментарий
Rodrik Mayer's
Кстати, в России научили бы ещё чекать, нет ли рядом оппозиционеров
Ответить
Развернуть ветку
Ольга Семенова

А наши водители, например, до сих пор не знают, что люди могут оказаться на дороге на пешеходном переходе. 

Ответить
Развернуть ветку
Тактичный Капибар
Самоуправляемый Uber, сбивший велосипедистку в 2018 году, «не знал» о существовании пешеходов вне переходов.

А там QA вообще были? Это же один из очень важных corner cas’ов

Ответить
Развернуть ветку
Stanley H. Tweedle

Водителя определённо надо судить. За смотрение хуйни.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Василий Кряжевских

Все человеческие глупости в программном коде не учесть и не обучить нейросеть избегать падающих с неба парашютистов, вылезающих из канализационных люков по среди дороги людей и т.д. Машина с автопилотом должна ассоциироваться с промышленным оборудованием, которое при первой возможности превратит тебя в безжизненную кучу мяса, если ты попытаешся нарушить правила. Люди привыкли к тому, что водителю же не захочется сесть в тюрьму, остановится. Нет, так нельзя. Самое простое, надёжное и прогнозируемое решение для ИИ машины - продолжать ехать. Суета и экстренные манёвры могут только усугубить ситуацию и создать массовую автокатастрофу. А так, все "электронные вагонетки" едут всегда по своему пути и никогда не сворачивают, человеку это запомнить не сложно.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
FaroucheMn

Тут вспомнилась трасса из Логана, полная самоуправляемых грузовиков. Полагаю что если бы человек туда вылез, то сам бы и был виноват.

Ответить
Развернуть ветку
3 комментария
Никита Рыба
не обучить нейросеть избегать падающих с неба парашютистов вылезающих из канализационных люков по среди дороги людей и т.д

Нет ни одной причины обучать нейросеть этим ситуациям, и правилам дорожного движения в целом. 

Ответить
Развернуть ветку
Myemptyblog

И это ещё не возникала "проблема вагонетки", которую тоже нужно запрограммировать и внести в юридические документы.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Myemptyblog

Решил напомнить читателям историю про всемирный опрос Moral Machine и результаты
https://nplus1.ru/news/2018/10/25/the-moral-machine
В конечном итоге примерно так и будут запрограммированы беспилотники, опираясь на "коллективные решения".

Ответить
Развернуть ветку
Посторонний

 Читывал фанатов самоездунских авто, что мол требования детально прописать методику поведения в разных ситуациях для ИИ авто - тупо палки в колеса прогрессу/лоббизм. Недолоббировали видать гражданку, на примере в топикстарте.

Ответить
Развернуть ветку
Легкость Бытия

Ну почему, если допустим ты не на этапе построения модели это делаешь, а уже на этапе результатов встраиваешь всякие линейные правила - это норм, т.к. спасает от подобных ситуаций. Другое дело, что это костыли

Ответить
Развернуть ветку
2 комментария
Паша Красников

Похоже, что учёный изнасиловал журналиста

Ответить
Развернуть ветку
Дамир Камалетдинов
Автор

Поконкретнее, пожалуйста

Ответить
Развернуть ветку
7 комментариев
Александр Семенков

Можно фулл? друг просит

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Aleks Ad

самоуправился блядь

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Nurbek Yesmagambetov

Во всем виновато шоу "Голос"

Ответить
Развернуть ветку
Дмитрий Шаргаев

"люди могут оказаться на дороге без перехода"(с) Какое же днище журналистики, епажмать...Без какого перехода?  Спускаемся до уровня: "ну ты понял?  - заебок..." #facepalm

Ответить
Развернуть ветку
Читать все 84 комментария
null