По сути мы говорим о программе поведения, которая должна подробно описывать все аспекты конституции и ее применимости ко всем сферам жизни, частным случаям и т.д.
Модель утопическая, т.к. описать все невозможно и всегда будут "исключения", непрописанные ситуации и т.д.
Это будет означать конец человеческой цивилизации, поскольку все открытия, прорывы совершались с нарушениями устоев, правил и традиций.
Соответственно, если влиянии ИИ будет безусловно, общество стагнирует.
Никакой интеллект в чистом виде не может управлять обществом. Например, ИИ говорит вам: «Не пей!», а вы пьёте. Он требует: «Иди работать!», а вы продолжаете бездельничать. Значит, исполнять требования ИИ будут люди, которые сами не без греха. Если же вы мечтаете об ИИ, который с помощью роботов будет заставлять людей исполнять его волю, то вряд ли люди захотят жить в таких условиях
Следовать конституции невозможно. Т.к. она состоит из деклараций, вообще говоря противоречащих друг другу.
Правилам разруливания противоречий посвящена большая часть законодательства. Но и их приходится ТОЛКОВАТЬ т.к. конкретный случай будет не абсолютно точно соответствовать описанному в законе.
Жизнь сложнее любой формальной схемы.
По вашему, если нельзя, но очень сильно хочется, то можно?)))