1) У этой материнской платы всего два слота - DDR4, так что не получиться заменить DDR4 на DDR5. Вдобавок, она на текущий момент еще не вышла в продажу.
https://www.dns-shop.ru/product/10d044db26393330/materinskaa-plata-asus-h110m-rcsi/characteristics/
2) Что касается AMD RX580. Тут нужно знать точную версию, модель видеокарты. Например, "GIGABYTE Radeon RX 580 1340MHz PCI-E 3.0 8192MB 8000MHz 256 bit DVI HDMI HDCP Gaming" будет совместима с вашей материнской платой. Ищите точную модель, вашей видеокарты и проверяйте совместимость, например, тут https://findhard.ru/checkcompatibility/part?partType=MotherBoards&id=4082&model=asus-h110m-rcsi
Не забудьте проверить совместимость вашей видеокарты и процессора
https://www.dxdigitals.info/2017/04/podbor-videokarti-pod-processor.html
или все там же
https://findhard.ru/checkcompatibility/part?partType=MotherBoards&id=4082&model=asus-h110m-rcsi