Совершенно очевидно, что после того, как будет создан сильный ИИ, то дальше он будет развиваться самостоятельно, но в соответствии с теми принципами и приоритетами, которые заложат в него люди. Интеллект людей ограничен, но ИИ может развиваться безгранично и очень быстро, поэтому надо позаботиться о том, чтобы как бы ИИ не развивался, это было всегда в интересах людей.
Можно ли быть уверенным в том, что ИИ даже достигнув самого запредельного превосходства над своими создателями, оставался им верным и надежным слугой, безотказным и безошибочным исполнителем их воли?
Да, это возможно. Нужно только, чтобы у ИИ не было своей воли, а все его целеполагание строилось, на целях людей. Интеллект – это такая же сила, такое же средство, как, например, ядерная бомба. Ядерная бомба способна уничтожить огромный город, но приводится в действие нажатием кнопки. ИИ способен преобразить мир или уничтожить цивилизацию, но он не сделает ничего такого, что не хотели бы от него его хозяева.