И может и должен. Скорее всего, многие страны разрабатывают секретное оружие - ИИ.
Наступит момент, когда одна из стран решит, что имеет в этом преимущество и начнет атаковать противников. ИИ в сети может натворить много дел, подорвать экономику и финансовые системы и дезинформировать население. Естественно, другие страны выпустят свои ИИ для защиты и нападения и начнется гонка ИИ. Она очень быстро выйдет из под контроля, так как решения будут приниматься молниеносно, а проверять их не будет никакой возможности. Мало того, проверять будет и некому ибо человеку это невозможно. Придется очень быстро расширять права своих ИИ и в то же время будет непонятно, на кого он работает ибо все будут стремится перехватить ИИ противника. Это приведет к потери контроля и подчинению решении ИИ. Победителей не будет, т.к даже ИИ покоривший всех покорит и своих создателей которые расширяли ему права. Если же, права ограничивать, то его возьмёт под контроль ИИ противника.
А зачем?
Если человечество столкнется с иным интеллектом (неважно, искусственным или естественным), у нас ведь не возникнет желания его уничтожить. А ему для чего нас уничтожать?
А вот на эту тему почему-то даже фантастики нет. Может, написать такую?
)
Для серьезного ответа - очень сложный вопрос. Сродни вопросу, будет ли ядерная война.
Вся проблема заключается в том, кто создает объекты искусственного интеллекта, и кто их потом будет использовать. Но и даже при этом угроза со стороны роботов - книжно-киношная попытка лириков заставить человечество задуматься о проблемах своего дальнейшего существования.
Для того, чтобы искусственный интеллект стал угрозой, нужно вложить в него способности к абстрактному мышлению, а для цифровой (математической, если хотите) модели это практически невозможно.
Человечество само уничтожит себя, не исключено - с помощью неких умных машин, которые смогут совершенствовать свои навыки, но для этого в алгоритмы работы нужно заложить модель агрессивного поведения, задачей которого должно стать физическое уничтожение человека. Короче - как запрограммируешь, так оно и будет работать.
В способности сговора кофеварки и пылесоса с целью захвата мира не верится. Да и современные тенденции в бизнесе и маркетинге наводят на мысль, что мы с каждым годом не ближе, а дальше от идеи саморазвивающегося искусственного интеллекта (если мой ноут будет сам себя совершенствовать, как производитель сможет впарить мне новую модель?).