Из простейших внутриматематических примеров:
вот есть поверхность вращения называемая тором. В трехмерном пространстве данная поверхность имеет очень замысловатые уравнения. Но если предположить, что можно разместить её в четырехмерном пространстве легко получается, что описать его можно двумя очень простыми уравнениями x1^2+x2^2=1, x3^2+x4^2=1.
Из прикладных:
чем больше влияющих параметров (features) вы рассмотрите, тем выше вероятность того, что функция будет хорошо описывать исследуемый параметр. Проблема только, что при наборе вы можете взять близкородственные параметры, или параметр объясняемый совокупностью других параметров и тогда встает вопрос о понижении размерности. Но обратите внимание, что изначально мы взяли число параметров таким, к какому мы вообще смогли добраться.
Чтобы в холодильник влазило больше еды. А в рамках научных теорий - чтобы свести наблюдаемые законы природы к относительно простым пространственным симметриям. И то, и другое - пока не завершенные процессы.