В магазинах инструментов обычно продаются специальные вещества (например, в формате спрея), предназначенные либо напрямую для удаления ржавчины, о чем на них будет написано, либо для размыкания приржавевшего друг к другу крепежа (называются что-то вроде "жидкий ключ"). В составе обычно присутствует ортофосфорная кислота.
Только пользоваться надо осторожнее, чтобы не повредить саму обувь: например, обклеить чем-то поверхность вокруг металлических деталей. И руки не желательно пачкать.
Но вернуть красивый металлический блеск вряд ли удастся, поверхность будет тёмная