Промазать все герметиком и проложить хороший утеплитель. Изоплат утеплитель на мой взгляд отлично подойдет - https://isoplaat.su/ Изоплатовые панели не только как утеплитель работают, но и как шумоизоляция. Утеплитель нужно проложить по всему периметру лоджии. Кроме окон понятное дело.
Если зимы уж очень холодные у вас, то еще можно установить полы с подогревом.
Если вы уверены в правильном и герметичном остекление вашей лоджии, то тогда стоит утеплять. Сразу нужно отметить, что утеплять нужно не только стены, но и потолок, и пол. Хорошим утеплителем для лоджии послужит пенополистирол, который можно приклеить к подготовленным стенам с помощью специального клея.