Общение с некоторыми современными сетями, например, с GPT-3, это именно общение. То есть, человек задаёт вопрос в виде текста (в чате) и получает ответ в виде текста.
При обучении, нейросеть выполняет действие, называемое "генерализацией" (обобщением). Генерализация — это, по сути, просто аппроксимация математической фукнции связи между вопросом и ответом, но при этом генерализация гарантирует (старается гарантировать), чтобы эта связь работала "правильно" и для вопросов, которые не были заданы при обучении. В процессе этого нейросеть создаёт так называемое "латентное пространство", которое можно рассматривать как эквивалент человеческого внутреннего мира с его мыслями и чувствами.
Иными словами, нейросеть, такая как GPT-3, генералирует все мысли человечества, изложенные в письменной форме, которые были представлены ей в процессе обучения. В этом смысле можно сказать, что нейросеть не придумывает ничего нового. Однако, в том же смысле можно сказать, что и люди тоже не придумывают ничего нового, так как "всё придумали древние греки".
По сути, и мыслящий человек и нейросеть выполняют одно и то же действие — генерализацию.