Здравствуйте. Нативных методов для создания плавного перехода от одного окна к другому в библиотеке Qt вы, скорее всего, не найдёте. Остаётся лишь самому написать нетривиальный выход из ситуации. Изучите классы QWidget и QPropertyAnimation - попытайтесь выполнить простой переход между виджетами в пределах одного окна.
Я изучал этот фреймворк самостоятельно некоторое время и разрабатывал свои приложения (небольшие). Эксперты могут меня поправить.