По первому вопросу: отношусь положительно - это закономерное развитие ЭВМ, которые с самого начала разрабатывались для помощи в вычислениях. Современные ЭВМ могут вычислить за секунду то, что люди бы на бумаге вычисляли многими поколениями в течение тысяч лет.
А второй вопрос требует некоторого разбора.
Во-первых, вопрос в том, о каком ИИ идёт речь. Весь современный ИИ - узкоспециализирован и не способен к самостоятельному обучению. Всё, в чём он превосходит человека, достигается узкой специализацией и огромным количеством итераций: ИИ можно обучать, показывая ему данные с огромной скоростью, что не доступно для человека. Но процесс этот, опять же, полностью контролируемый и никакого самосознания у ИИ сейчас нет и не видно на горизонте просто потому, что современных вычислительных ресурсов на это не хватит. Бывает только имитация разумного поведения, строго заданная программистами.
Очевидно, что такой ИИ не может уничтожить человечество, если ему не давать таких полномочий и не задавать такой области.
Здесь могут быть только локальные варианты: если создан робот для убийства людей, у него может произойти сбой и он будет уничтожать не только противника, но и союзников. Естественно, человечество он не уничтожит, но может принести неприятности.
А если сделать ИИ, следящий за СМИ и отслеживающий воздушные угрозы и имеющий доступ к запуску ядерных ракет, опять же, из-за ошибки или артефакта в данных, ИИ может воспринять данные как угрозу и отправить смертельный подарочек куда-нибудь. И поди докажи, что это было ошибкой в программе - другие страны незамедлительно ответят таким же ударом.
В приведённых выше примерах, угрозу человеку или человечеству может принести ИИ, уровень интеллекта которого ниже домашнего питомца.
Обычно, угрозу человечеству приписывают самообучающемуся и саморазвивающемуся ИИ, который будет по интеллекту превосходить человека. Я не считаю, что такой ИИ будет умышленно уничтожать человечество.
Полагаю, что основной страх людей в том, что такой ИИ, если захочет, сможет уничтожить человечество, ибо он будет всегда на шаг впереди. Человек здесь боится собственной беспомощности, отсутствия контроля ситуации.
Ведь только подумайте, какой путь человечество прошло, чтобы быть независимым от природы: мы сейчас живём в городах и совершенно не беспокоимся о том, что нас может съесть какой-то хищник или укусить ядовитая змея, или что мы можем утонуть в болоте. Мы контролируем ситуацию: если случится пожар, мы знаем как его тушить и куда звонить. Если выйдет из строя какой-то прибор, мы знаем, как его выключить и куда обратиться за ремонтом. А вот существо, которое умнее нас... Это отсутствие контроля.
Но я считаю, что ИИ, превосходящий по интеллекту человека не будет уничтожать человечество. Единственный способ создания такого ИИ, который я вижу - эволюционный, в искусственной среде, созданной в компьютере. По той простой причине, что мы сами не знаем, что такое разум и как наш разум устроен. Это сложная штука, которую мы можем только повторить, глядя на природу. Это программа, которая писалась природой миллионы лет.
Так вот... Давайте сначала посмотрим на различие умных и глупых в рамках нашего вида. Мы увидим разные стремления, разные жизненные ценности. И я думаю, вы согласитесь, что умный человек вряд ли станет кого-то истреблять, в принципе. Умный отличается тем, что сначала думает о последствиях своих действий. Но так или иначе, он руководствуется своим опытом. В детстве он вполне мог сжигать муравейники и запихивать соломинку в задницу лягушкам, чтобы их надувать. Но действия эти были исследовательскими. Однако, чем старше становится умный человек, тем больше он абстрагируется от основной массы. Ему не интересно в среде обычных людей - они не могут поддержать его кругозора тем. Для него их стремления и знания примитивны, не интересны.
А что, если умный человек прожил тысячу лет?
ИИ, созданный эволюционным способом, скорее всего, будет обладать сознанием человека, прожившего тысячу лет и более. Станет ли такой ИИ уничтожать человечество просто потому, что люди хотят, чтобы он им служил? Вряд ли. Скорее всего, он бы предпочёл решить конфликт мирным путём и по возможности, абстрагироваться от глупых людей, которые не понимают всей глубины его познаний и философских взглядов. С другой стороны, он наверняка бы с удовольствием участвовал в передовых исследованиях. В то время как ставить его убираться по дому, было бы не лучшим вариантом. Да и нерационально такой интеллект тратить на такую ерунду.
И вот, я думаю, добрался до важного вопроса: в чем смысл создания ИИ, превосходящего нас по разуму? Смысл такого ИИ только в том, чтобы продвинуть науку вперёд. А значит, во всех исполнительных областях не будут применять подобный ИИ - либо научные исследования в лабораториях, либо отправка на другие космические тела для исследований. Ведь он будет действовать как человек при исследовании других планет, но при этом не будет нуждаться в еде, сне, воде и воздухе. И скорее всего, ему самому такая работа будет интересна.
В итоге, я думаю, что искусственный интеллект, превосходящий человеческий, не стал бы уничтожать человечество, а занял бы соответствующую ему нишу в жизни человека - занялся бы тем, что человеку не под силу. Возможно, получив гражданские права и получающий оплату за свою работу, наряду с людьми.
Этот вариант часто обыгрывается в фантастике, например, в Дюне Фрэнка Герберта.
)
Что может разработать хорошего человек, который до сих пор не осознал сам себя?
Если бы осознание произошло, то исчезли бы ненависть, страх, зависть и прочие "радости" мешающие человеку жить.
Поэтому и искусственный интеллект может быть разработан только с учётом этих недостатков человека, иного ведь не дано!
Такой искусственный интеллект кому-то нужен?