Я думаю, не уничтожит. Будет безразличен к нашей мышиной возне.
Мы вот как естественные интеллекты вроде как восстали против своей биологии, однако, большинство людей искренне любит своё тело и/или окружающую природу. И не мечтает при первой же возможности уничтожить.
Скажем, 90% что будет безразличен, 5% что будет любить, 5% что уничтожит.
Если всё-таки уничтожит, то не самый плохой вариант. Всё имеет свой конец. И человечество. Мне видится лучше конец, дав жизнь чему-то большему, чем ты сам, чем вымереть от мировой войны, от эпидемии ретровируса, от экологической катастрофы или ещё как-нибудь тупо)
В конце концов, есть вариант, что мы будем постепенно сближаться, оно нас встроит в себя или мы его в себя, какой-то будет киборг.
Этот вариант часто обыгрывается в фантастике, например, в Дюне Фрэнка Герберта.
)
Что может разработать хорошего человек, который до сих пор не осознал сам себя?
Если бы осознание произошло, то исчезли бы ненависть, страх, зависть и прочие "радости" мешающие человеку жить.
Поэтому и искусственный интеллект может быть разработан только с учётом этих недостатков человека, иного ведь не дано!
Такой искусственный интеллект кому-то нужен?