Мне кажется, что для автопилота должна стоять задача предотвращения столкновения с любой помехой. Будь то пешеход переходящий дорогу, группа бомжей или нобелевских лауреатов, дерево или автомобиль на обочине. Автопилот не может никак классифицировать эти помехи. Бомж это или нобелевский лаурет-хиппи, в машине на обочине есть дети или нет, а может за деревом кто-то присел. (Я был свидетелем как женщина спряталась за столб от несущегося под горку самосвала без тормозов. В этот столб самосвал и затормозил с летальным исходом для женщины). Автопилот также не может рассчитать какое столкновение является смертельным. Не факт, что любой удар, даже сильный, приведет к смертельному исходу кого либо из столкнувшихся. В тоже время несильный удар, при плохом стечении обстоятельств, может привести к беде.

И у автопилота на сегодняшний момент, насколько я понимаю, есть только два способа предотвратить столкновение - тормозить или объезжать. Соответственно, объезд возможен, исходя из вышесказанного, только если он не приводит к другому столкновению. Здесь также надо учитывать, что датчики автомобиля могут не видеть всю окружающую обстановку (например, неровности обочины), поэтому маневры автомобиля изначально ограничены. Торможение применяется в любом случае когда не возможен объезд, даже если оно (торможение) не решает проблему столкновения, для минимизации последствий оного.

И никаких моральных проблем.

Все как у Оруэлла в "1984"