Этика робокаров: кого сбивать в неминуемом ДТП?

Этика робокаров: кого сбивать в случае неминуемого ДТП?
Самоуправляемые автомобили будущего могут быть запрограммированы на то, чтобы сбить вас. Печально, но факт. Сейчас разработчики программируют автомобили на правильный алгоритм действий в каждой ситуации, которая может сложиться на дороге. А среди них возможен случай неминуемого ДТП, где даже компьютер не способен избежать столкновения. Это бывает, если препятствие внезапно возникает перед автомобилем, так что физически невозможно снизить скорость.
Представьте, что управляющая программа должна выбрать, в какой из двух объектов врезаться: свернуть влево и врезаться во внедорожник Volvo или свернуть вправо и врезаться в Mini Cooper. Какой вариант нужно заложить для минимизации ущерба? Предположим, что робот-автомобиль едет с пустым салоном.
С точки зрения физики, лучше врезаться в крупное тело, которое лучше поглотит энергию столкновения, то есть во внедорожник. Более того, этот автомобиль безопаснее, что увеличивает для водителя внедорожника шансы выжить.

С другой стороны, в большом автомобиле может находиться больше людей, так что в ДТП может оказаться больше пострадавших. Да и вообще, выбор мишени для прицеливания перед лобовым столкновением —это из области разработки военного вооружения, и здесь разработчики самоуправляемых автомобилей становятся на тонкий лёд морально-этических проблем. Производители внедорожников явно будут не рады, если робокары специально начнут врезаться в них по умолчанию. Да и законна ли такая «дискриминация»?
Люди-водители в таких ситуациях реагируют инстинктивно. У компьютера есть время рассчитать траектории и математически оценить последствия, чтобы минимизировать ущерб. Здесь-то и возникают вопросы, что является меньшей жертвой: сбить собаку или кошку? мужчину или женщину? старика или ребёнка? мотоциклиста в шлеме или мотоциклиста без шлема? Если вы считаете, что в последнем случае лучше сбить мотоциклиста в шлеме, то надевать шлем для мотоциклистов станет небезопасно! Ведь они не хотят становиться мишенями.
Пока что роботы-автомобили не попадали в ДТП, хотя наездили более миллиона километров по городским улицам. Тем не менее, не позавидуешь разработчикам, которым приходится решать проблемы «оптимизации столкновений».
Может, лучше выбирать цель случайным образом? В этом случае жертв будет больше, но мы устраняем неразрешимую проблему морали. Но такая мимикрия под поведение людей-водителей противоречит самой идее создания самоходных автомобилей, ведь они позиционируются как более безопасная альтернатива автомобилям под управлением людей. Именно из-за человеческого фактора происходит более 90% всех ДТП со смертельным исходом, в которых ежегодно на дорогах гибнут сотни тысяч человек.
Безусловно, проблема этики для автомобильных программ остро встанет в ближайшее время, и этот вопрос требует открытого общественного обсуждения.
ист

Погодите минусить! Дайте вникнуть!

Проблема надумана. Умирай в своей полосе. Опасно тормози. Все алгоритм готов.

А мне всегда интересно было. В фантастических фильмах обычно рассекают на летающих авто и в случае ДТП кому-то на голову грохнется куча железа Как в этом случае люди будущего думают на тем как разрулить данную ситуацию?

Сдает грузин на "права".
Вопрос:
— Ти едэшь в горах. Справа — скала, слэва — обрыв.
впереди — два жэнщина: маладой и старый.
Кого давить будешь?"
— Канэчно старый!
— Плохо! Тормоз давить надо! Нэт тебе права, дарагой!

в негра или белого?

Врезаться надо в случайно возникшее препятствие. Оно само виновато, что возникло неожиданно на дороге, пусть и расплачивается.

Во первых чтобы все работало нормально, нужно чтобы такая система стояла на ВСЕХ машинах. Чтобы они могли между собой общаться, предупреждать друг друга. В эту концепцию не вписываются мотоциклисты, велосипедисты, пешеходы, и все другие, кому в мозг невозможно встроить кучу датчиков.
Поэтому получается неполноценная система, которая ездит как в тумане. Даже самая крутая система будет пасовать, когда вокруг все ездят, бегают, перебегают хаотично.

Никакой проблемы нет. Робот должен стараться минимизировать последствия, иначе в нем нет смысла.

Самоуничтожиться. Ну или закрыть зрительные сенсоры, бросить сервоуправление рулём и заверещать зуммером от безызходности.

Ещё очень интересует вопрос ответственности за ДТП. Формально, едущие в автомобиле люди, являются пассажирами и в движении не участвуют. Кто виноват в ДТП - компания-производитель?

Это сообщение отредактировал dreamstone - 10.05.2014 - 20:13

Внести толерантность и в компьютерные системы управления движением? Нам мало проблем из-за чрезмерной толерантности в других сферах деятельности? И так на толерантное отношение расходуется чрезмерно много ресурсов.

если робокар будет стоять перед выбором кого сбить, то достаточно только аварийного торможения.

Это сообщение отредактировал TopGanKote - 10.05.2014 - 20:11

Должно быть так


Это сообщение отредактировал lectors - 10.05.2014 - 20:08

Самое разумное-врезаться в того,кто создал подобную ситуацию.По крайней мере разработчики смогут избежать большинства исков.Накосячил-отвечай,сам виноват.При таком раскладе даже самые отмороженные задумаются,перед тем,как подрезать тупую,но беспристрастную железку.И надпись по всему борту большими буквами:
"Роботу похуй на твои понты,он едет по правилам"

Это сообщение отредактировал LIZAMAX - 10.05.2014 - 20:09

вспомнились законы робототехники Азимова

С одной стороны все алгоритмы прописаны в ПДД. Но в статье правильно подмечено, что у машины есть время оценить ситуацию и просчитать несколько вариантов. Ну например, ребенок выбегает на дорогу, единственное, что в этой ситуации предписывают правила это тормозить, ну а если не успел? Давить ребенка? При современных системах безопасности и соблюдении программой скоростного режима, более правильно будет подвинуть боком, параллельно едущую машину и спасти жизнь ребенка, при этом с высокой долей вероятности пострадает только железо. Или я не прав?

Это сообщение отредактировал kizyan - 10.05.2014 - 20:07

как там было про 3 закона робототехники

телепорт решает

Я знаю ответ

А я в корне не согласен с таким подходом. Препятствие может возникнуть из-за отказа той же техники , врезаться нужно так, чтобы сохранить человеческие жизни. Я понимаю что жалко тех кто может пострадать материально, но жизнь человека дороже. Врят ли программа будет настроена на причинение ущерба здоровью другим участникам движения, только имущество.

оххх... опять философы. система еще не готова, не доведена, но уже нашлись "морально-этические проблемы". если подумать, то ситуации не сложные, но вот начинают из пальца высасывать.

А "параллельно идущая" робокар, может параллельно и сама подвинуться, избегая столкновения. При учете что система единая, просчитать можно.

ПДД заложить - пусть следуют неукоснительно.

Вариант. Но автопарк смениться не мгновенно, на это уйдет много времени и скорее всего мы застанем переходный период. Когда на дороге будут машины управляемые людьми и компами одновременно. При полном переходе на ком.управление, скорее всего количество ДТП снизится практически до нуля. Как не крути, почти во всех ДТП виновник - это человек.