Придёт ли человеку уведомление в телеграмме, если я упомяну его через @name в открытом канале, в котором он не состоит?

Нет, не придёт, уведомления приходят только тогда, если он подписан, проверьте, если есть сомнения. Создайте новый аккаунт, не подписывайтесь и упомяните его, тогда убедитесь.