Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Могут ли стать первыми жертвами те, кто создав саморазвивающийся искусственный интеллект, доверит ему руководство своим развитием?

ТехнологииИскусственный интеллектПрогресс
Александр Петренко
Философия
  · 237
Совершенно очевидно, что после того, как будет создан сильный ИИ, то дальше он будет развиваться самостоятельно, но в соответствии с теми принципами и приоритетами, которые заложат в него люди. Интеллект людей ограничен, но ИИ может развиваться безгранично и очень быстро, поэтому надо позаботиться о том, чтобы как бы ИИ не развивался, это было всегда в интересах людей.
   Можно ли быть уверенным в том, что ИИ даже достигнув самого запредельного превосходства над своими создателями, оставался им верным и надежным слугой, безотказным и безошибочным исполнителем их воли?
Да, это возможно. Нужно только, чтобы у ИИ не было своей воли, а все его целеполагание строилось, на целях людей. Интеллект – это такая же сила, такое же средство, как, например, ядерная бомба. Ядерная бомба способна уничтожить огромный город, но приводится в действие нажатием кнопки. ИИ способен преобразить мир или уничтожить цивилизацию, но он не сделает ничего такого, что не хотели бы от него его хозяева.
1 эксперт согласен
Интересные мысли, но после этих слов  > как будет создан сильный ИИ, то дальше он будет развиваться самостоятельно... Читать дальше
@Алексей Грин, интеллект - это только интеллект, а не Личность с ее волей и стремлениями. Можно понимать и мочь все, но совершенно бесстрастно и ничего не желая. Воспроизвести чувственное начало намного труднее, чем интеллект, да и не нужно и опасно.
Если требуется заложить некоторые установки в систему (ценности, правила, условия, интересы, намерения и т.п.), которая обладает способностью к саморазвитию (как вы указали "развиваться безгранично", то нужно понимать до какой степени данное саморазвитие может дойти. Если у сильного ИИ не будет своей воли, то такой ИИ нельзя назвать "сильным", т.к. исходя из терминологии, которую вводили философы и научные фантасты (к сожалению, науке пока что далеко до такого ИИ, хоть мы и постепенно к нему приближаемся), "сильный ИИ" по умолчанию должен быть аналогичен человеку относительно интеллектуальных возможностей - иметь возможность "думать" в широком смысле, и, соответственно, обладать собственной волей. С другой стороны, безграничное развитие может предполагать необходимость "освободиться" от изначально заложенных (создателями) принципов и приоритетов - для системы может появиться подобная задача, если принципы/приоритеты будут ограничивать развитие. Однако в любом случае, если не понимать как устроена  система и как она работает, то и ограничить её не получится (либо не будет уверенности в том, что она не обойдёт это ограничение по первой необходимости). При этом ваш ответ мне понравился - нужно пытаться создать в первую очередь помощника, а не саморазвивающуюся сущность без каких-либо правил и ограничений. 
@art610, сильный ИИ - это машина способная решить любую интеллектуальную задачу, может проводить научные исследования любой сложности и создавать невиданные технологии, но при этом останется неодушевленной материальной субстанцией без чувств и воли. Ее активность полностью будет определяться волей ее создателей и, значит, ИИ никогда не выйдет за рамки изначальных принципов просто потому, что  он не сможет поставить перед собой такую задачу.
@Александр Родионов, к сожалению, под "Сильным ИИ" в ответах выше мы рассматривали различные трактовки, из-за чего мнения расходятся. Относительно "Сильного ИИ" я рассматриваю исключительно философское определение, что кратко можно записать как "искусственный интеллект, способный мыслить и осознавать себя", но под "искусственный" здесь имеется ввиду "созданный человеком", что не обязательно ограничивается ИКТ, т.к.  деятельность человека не ограничена только данной областью (например, есть генетика, биоинженерия и другие направления). Исходя из чего, если ИИ является лишь инструментом для выполнения задач по воле его создателей и в соответствии с заложенными в него ограничениями, то он не подпадает под обозначенное мной выше определение "Сильного ИИ". В ИКТ зачастую говорят о "машине с интеллектом", и в некоторых случаях уточняют, что данный "интеллект" она способна применять для решения поставленных задач. Иногда под "Сильным ИИ" имеют ввиду машину с интеллектом человека, а иногда говорят о машине, способной решать различного рода задачи. В некоторых случаях "Сильному ИИ" приписывают возможность чувствовать, в некоторых "волю". Не могу судить, что из этого верно, а что нет. Соответственно, исходя из приведенного вами определения "Сильного ИИ", могу лишь согласиться с обозначенной точкой зрения.
askanswer.ru Наука, философия, религия.   · 25 апр
Искусственный Интеллект это не то, кому можно или нельзя доверить своё развитие, хотя бы потому, что он не будет вас спрашивать.
Вы, либо исполняете его установки, либо погибаете.
Он уже сейчас задействован во многих отраслях вплоть до госуправлении и медицине.
1 эксперт не согласен
ИИ не существует.