@Eduard Vitol, интеллект, согласно нынешним представлениям, обязан уметь, как минимум, обучаться, а также анализировать поставленные задачи, находить способы их решения, в т.ч. выходящие за рамки предыдущего опыта. В этом смысле ИИ должен уметь развиваться. Однако это не означает, что он должен уметь ставить конечные цели. Т.е. ИИ вполне способен к развитию в рамках поставленной ему задачи, но эти самые конечные цели ему должен кто-то дать.
Т.е. вам, например, нужен новый препарат, который эффективен в лечении некоторого заболевания и при этом обладает минимальными побочными эффектами. Вы ставите такую задачу ИИ и он самостоятельно находит всю доступную информацию по теме, анализирует её, намечает пути решения проблемы, планирует и проводит необходимые исследования и тесты, возможно, делает некие открытия и изобретения на каких-то этапах реализации своего плана, возможно, находит и формулирует новые закономерности и т.д. Т.е. он развивается и в следующий раз сможет использовать накопленные знания и опыт для решения последующих задач. Однако конечную цель ему устанавливаем мы! И мы же устанавливаем граничные условия (например, ограничиваем бюджет, длину технологической цепочки и т.п.). А вот в рамках поставленной задачи ИИ вполне может развиваться