Соблюдать тайну этического выбора. Человек сам определяет в настройках перед началом поездки - driver first или нет, но тайна этого выбора охраняется законодательно, как и тайна голосования, например. Мы и сейчас ходим по улицам, и не знаем, какие моральные установки в голове у каждого водителя - кто-то пожертвует собой, кто-то пешеходом. Таким образом, автопилот становится только продолжением конкретного человека, в том числе и его моральных убеждений, как и положено любому инструменту. Второй аспект, что основной установкой должно быть любой ценой избежание столкновения/повреждения вообще. Тотальное ограничение скорости? Тогда аварии не будут фатальными. Автомобили будут индивидуализированным, но медленным видом транспорта, а поезда и самолеты - высокоскоростным.