Чтобы привить автопилоту мораль у него должна быть точная и идентичная человеческой модель мира. Нужно понимание ситуации не худшее чем есть у человека.