В настройках посмотрите. Советую прошерстить Ютуб в поиске ответа, поверьте не больше 10 минут займет процесс. Вы можете подтянуть параметры качества видео или потока, обратите на формат в котором вы записываете, а так же фпс видео. Так например(исключительно пример): 1080 х 60фпс при 25Мбит/сек. В каждом уважаемом софте записи есть параметры записи, у AMD как раз есть подобные опции. Какие параметры, для хорошей картинки при высокой производительности устанавливаете вы сами и что бы этого добиться, вам придется самому подбирать эти параметры методом проб.