Фото: John Kolesidis / Reuters
Технологии защитили человека от природы, но не от самих себя. Речь не только об оружии, но и о сервисных механизмах, призванных создавать удобства. Больше того: смерть от механизма скоро станет не только результатом несчастного случая, но и заранее запланированным исходом. Электронный мозг самоуправляемого автомобиля будет принимать решение, чьей жизнью он должен пренебречь в случае выбора в аварийной ситуации. Проще говоря, кого предстоит убить – пассажира или пешехода, если другого выбора нет.
Сегодня эта моральная проблема вызывает живейший интерес в автомобильной промышленности. Сугубо гуманитарная тема оказалась важнее технических решений. Как роботу ездить и ориентироваться, это инженеры как-нибудь придумают. А вот как решить, кого роботу убивать в случае необходимости?
Как в случае с клонированием или редактированием генома человека, внедрение новой технологии здесь упирается не столько в технические сложности, сколько в этическую проблему. Здесь она описывается так называемой проблемой вагонетки – trolley problem, сформулированной в 1967 году английским философом Филиппой Фут в виде мысленного эксперимента. Предположим, что по рельсам мчится вагонетка, а на ее пути сумасшедший философ привязал пять человек. Если оставить все как есть, они погибнут. Но вы можете перевести стрелку и направить вагонетку на другой путь, где привязан только один человек. Как вы поступите? Позволите погибнуть пятерым или возьмете на себя ответственность за смерть одного? (Других вариантов нет.)
В последние годы этот мысленный эксперимент вновь оказался в тренде и оброс массой любопытных мемов.
Классическая иллюстрация к проблеме вагонетки. Источник: New York Magazine
