По большому счету никакого. Это та административно-территориальная нарезка регионов, которая досталась нам в наследство то СССР/РСФСР. В процессе укрупнения какие-то регионы были объединены (например Пермская области и Коми-Пермякий Автономный Округ в Пермский край). Практика показала, что в общем-то ничего страшного от такого укрупнения не произошло. Но видимо руководители Республики Алтай и Алтайского края сумели пролоббировать на федеральному уровне собственную самостоятельность и поэтому их не объединили.
Единственный рациональный смысл именно касательно двух Алтаев может заключаться в том, что оба эти региона являются приграничными. И следовательно федеральному центру выгодней иметь два региона поменьше, чем один большой, в целях купирования возможных сепаратистских настроений.
Когда в 1990 году Ельцин призвал брать суверенитета, кто сколько может, автономные области стали выходить из состава субъектов, чтобы получить российское подчинение, а может и союзное. Процесс выделения Горно-Алтайской автономной области из Алтайского края начался в 1990 году и завершился 3 июля 1991 года принятием соответствующего закона РСФСР - образовалась Республика Алтай.