ИИ всегда будет, как инструмент, работать в интересах того, кто его запрограммирует.
То, что вы тут описали - не интеллект, а простой автомат, работающий по заданной программе.
Интеллект (искусственный или естественный) обладает способностью самостоятельно определять цели своей деятельности, менять правила поведения, решать, что хорошо, а что плохо. Носитель интеллекта не может не обладать сознанием, не иметь собственных желаний, не меняться, не развиваться.
Так что в принципе ИИ вполне может управлять чем угодно, но только делать он это будет по-своему, иначе, чем человек. И большой вопрос: захотим ли мы этого и понравится ли нам то, что получится.
Никакой интеллект в чистом виде не может управлять обществом. Например, ИИ говорит вам: «Не пей!», а вы пьёте. Он требует: «Иди работать!», а вы продолжаете бездельничать. Значит, исполнять требования ИИ будут люди, которые сами не без греха. Если же вы мечтаете об ИИ, который с помощью роботов будет заставлять людей исполнять его волю, то вряд ли люди захотят жить в таких условиях
Следовать конституции невозможно. Т.к. она состоит из деклараций, вообще говоря противоречащих друг другу.
Правилам разруливания противоречий посвящена большая часть законодательства. Но и их приходится ТОЛКОВАТЬ т.к. конкретный случай будет не абсолютно точно соответствовать описанному в законе.
Жизнь сложнее любой формальной схемы.
По вашему, если нельзя, но очень сильно хочется, то можно?)))