Сказки о безопасности: Дилемма “умного” автомобиля

Сказки о безопасности: Дилемма “умного” автомобиля

— Добрый день, Иоганн!

— Добрый день, Вилли! Что произошло?

— У нас странное дорожное происшествие. Нужна ваша помощь.

— Погодите, но какое отношение мы имеем к дорожной полиции?

— Иоганн, неужели вы думаете, что я пришел бы к вам с банальной автомобильной аварией? Я умею ценить ваше время и прекрасно понимаю, что у вас масса работы. Однако в данном случае произошел наезд «умного» автомобиля на пешехода. Причем странный наезд.

— А можно подробнее?

— Нужно! По 5-й авеню двигался автомобиль М-450 под управлением искусственного интеллекта. Вы знаете, они начали выпуск таких авто без водителя?

— Да. Я читал об этом, и мы долго спорили на эту тему.

— Ну так вот. Автомобиль на перекрестке 5-й и Короля Георга сбил мальчика, перебегавшего дорогу. Самое интересное, что мальчик уже заканчивал движение. Он начал его явно на зеленый. У автомобиля была возможность избежать столкновения, но при этом была вероятность аварии, в которой мог бы пострадать пассажир. Он отделался бы парой синяков. Однако ИИ выбрал решение спасать пассажира. Мы хотим понять, в чем дело и почему такое произошло.

— Действительно очень интересно. Привезите автомобиль к нам, а наши специалисты посетят компанию. Выясним, почему ИИ принял такое решение.

— Спасибо! Будем ждать!

Прошел месяц.

— Вилли, заедете к нам в гости? Есть новости. Увы, по телефону я не буду их рассказывать. Все не так просто.

Прошел час.

— Добрый день, Иоганн!

— Привет! Я пригласил для беседы конструкторов фирмы-производителя.

— Хорошо, послушаем, что они скажут.

— Итак, господа! Когда мы строили ИИ для управления автомобилем, то в его программу было заложено, что наибольший приоритет — жизнь пассажиров автомобиля. В результате все так и произошло. ИИ защищал своего пассажира и из двух возможных аварий выбрал ту, в которой пассажир бы не пострадал. Увы, мы так и не можем решить моральную проблему «меньшего вреда».

— Но почему вы не рассказали об этом?

— Да потому что иначе нас бы снесли толпы возмущенных граждан. И никто бы не покупал наши автомобили! А ведь мы — коммерческая компания. Нам продавать нужно!

— Но ведь так страдают пешеходы?

— А те, которые в машине — они не люди? Мы не смогли решить этот вопрос. А вы можете? Помогите тогда.

Впервые Иоганн не знал, что ответить.

Я тоже не знаю, что ответить… А вы знаете? Что важнее? Спасти пассажира или пешехода? Или другого водителя?

Alt text

Один хакер может причинить столько же вреда, сколько 10 000 солдат! Подпишись на наш Телеграм канал, чтобы узнать первым, как выжить в цифровом кошмаре!

Владимир Безмалый

О безопасности и не только