Кого выбрать?

Автомобиль с молодой семьей едет по шоссе, вдруг на дорогу выбегает ребенок. Водитель, пытаясь уйти от столкновения, сворачивает с дороги, машина улетает в кювет и несколько раз переворачивается. Из 4-х человек двое погибли, еще двое в тяжелом состоянии попадают в больницу.

Ужасная история. Но общество эту историю будет рассматривать как несчастный случай. Водитель сделал все, чтобы спасти жизнь выбежавшего ребенка. Это естественная реакция. Наверное, каждый из нас поступил бы так же.

А теперь представьте, что за рулем будет робот. Точнее за рулем вообще никто не будет сидеть, а управлять машиной будет автопилот. В отличие от человека, компьютер быстро просчитает все риски. Далее перед компьютером станет выбор, кого убить. Человека, который нарушил правила, или 4-х человек, которые ни в чем не виноваты.

Автомобиль на автопилоте собьет ребенка, даже не попытавшись его объехать.

Скорее всего это вызовет скандал в обществе. Всем будет казаться, что можно было спасти всех. Да и вообще, как это так, убить ребенка, даже не попытавшись его объехать!

Робот не может принимать нерациональных решений, и это пока кажется самым страшным. Робота нельзя будет наказать, посадить в тюрьму и как-то ему отомстить за принятое им решение, повлекшее смерть человека. Робот будет решать, кому жить, а кому умереть. И решать беспристрастно, в соответствии с программой.

Есть даже старый добрый тест «Проблема вагонетки».

«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?»

Кого оставить в живых? Нужно ли вмешиваться? А если 5 человек плохие, а 1 хороший? И т.д.

Американский институт MIT запустил тест о моральном выборе: как должен поступить компьютер, оказавшись в такой ситуации. Можете пройти тест и посмотреть, как отвечали другие пользователи.

Недавно стало известно о первом смертельном ДТП с Теслой, оно произошло из-за ошибки автопилота. Но с увеличением количества беспилотных автомобилей все чаще у компьютера будет стоять выбор: кого убить?

Что думаете?

via

Это стандартный этический вопрос о роботизированных авто

Посмотрите видео на ютьюбе про сложный выбор, где отец выбирает между пассажирами поезда и собственным сыном.

лучше ни кого не сбивать!
а если ставить перед выбором себя и свою семью на одной чаше весов и ребёнка чужого на другой, то думаю выбор очевиден!

в таких ситуациях автопилот будет отключаться со словами - Да ну вас нах@й с вашим выбором, сами решайте)))

Быть или Не быть?
Вот в чем вопрос...

по мне так нарушил правила должен нести ответственность какой бы она не была в данном случае жизнь одного ребенка, может после этого люди начнут думать и учить своих детей правилам безопасности!

Вот один из вариантов
Обявляет переменную "Не убивать" (маму, админа, собаку)

если в массив "убить" попадает переменная "не убивать", то убиваем кого-то другого

Всё просто, сбивать ребенка, и после этого сажать родителей этого самого ребенка. Всё.

Сбивать ребенка - родители еще нарожают, а ребенок может до детородного возраста и не дожить.
Это кстати японский толи тест на логику, толи тест на прием на работу.

Ну а кому какое дело до этого выбежавшего ребенка? У меня у знакомых такая история была , когда собачку "спасали", папа решил, что он водитель от Богу и исполнил лосинный тест, собака - жива - в машине из 5 человек три трупа и один в коме. Выживший ребенок рассазал, что было. Папа - идиот. Сам раза два-три сбивал собак по дороге на дачу. Никогда не буду отворачивать, тем паче - когда на скорости. Своя жизнь дороже.

Робота не накажешь, а вот производителя робота - да.

Когда создастся прецедент, тогда будут "шлифоваться" алгоритмы действий, дабы производителям уйти от попадоса. И вряд ли здесь будет затронута моральная составляющая.

наверное робот прав
тут еще закон сохранения вида.... один ребенок на дороге - родители долбоебы, а значит и ребенок носитель такого же долбоебства.
робот прерывает цепь, подобные не получают продолжения

хреновый выбор...

Азимова перечитали
вот реальность: фармакологическая компания знает о побочных явлениях, которые отправят на тот свет 2-5% от принимающих лекарств, но решение этой проблемы еще сожрет пару десятков миллионов долларов и несколько лет исследований, что недопустимо. А деньги надо зарабатывать. И зарабатывают!
а решение по пенсии ниже прожиточного уровня сколько жизней унесло?

Не... Убить всех, потом самоликвидироваться, дождавшись когда случайные люди подойдут посмотреть - что случилось... и распылить споры сибирской язвы...

Вопрос поставлен не корректно. Машина не будет выбирать кому жить ,а кому нет. Машина будет пытаться избежать столкновения согласно прописанным алгоритмам.Задействовав при этом заложенные в нее возможности. Поэтому ни о каком выборе речь не идет.И я не исключаю,что в ряде ситуации машина будет более эфф.человека.

Это сообщение отредактировал DoctorG - 4.07.2016 - 10:33

А алгоритмы-то прописывают люди. Это для программистов проблема выбора - какой алгоритм прописать, чтобы совесть потом не мучила.

Что робот будет прав.

Робот ездит исключительно по ПДД, соблюдая знаки, разметку и сигналы светофора, не привышает скорость.

Если кто-то выбежал на дорогу на красный и был сбит - это исключительно проблема того, кто выбежал, а не робота и не людей в машине.

И если будет выбор между моей семьёй и чьим-то там ребёнком, то мне важна, что бы моя семья осталась живой, остальное не интересует.

а что тут думать кто нарушил правила того и в расход, двоичная логика она жесткая, женщины ее не поймут никогда

Да этот вопрос и без автопилота давно актуален!

Пример - Волгоградский проспект, мост через Ак.Скрябина, там НЕТ пешеходной зоны вообще и никогда. Но там вылезла бабка, поперлась через проспект.. в результате отворачивания от бабки куча металлолома, трам и т.д... а бабка убежала.

Ещё пример, абстрактный. Дорога без разделения полос, ограничение 80 км/ч, на дорогу выбежала кошечка/собачка, справа. Очень большой процент просто крутанет руль влево, а там встречка, лобовая и усё.. Но кошечку/собачку ведь жалко было ?

Есть правила, и они, что ПДД, что техника безопастности, написаны кровью и жизнями людей. И роботу придется руководствоваться именно правилами, а не моралью.

В населенном пункте робот должен выбрать скорость такую, чтобы успеть притормозить, если люди, птица выбежит на проезжую часть. Хотя все это спорно и больше касается этических норм.

бля, страшный вопрос... не для робота, для человека

Интереснее, как робот будет определять, что выбежал ребенок, а не стадо обезьян, например.. представляю заголовок "Робот спас 6 обезьянок, выбежавших на дорогу и снес троих людей на обочине".. Вариантов и абсурдных ситуаций можно придумать десятки..

в Я, робот, Уилл Смит ненавидел роботов за то, что робот его спас, а девочку даже не пытался (в воде) - там он быстро просчитал вероятность спасения