Какие видеокарты поддержит материнская плата p8h77-m?

На данной МП распаян стандартный слот для установки видеокарт PCI-E c полноценной поддержкой версии 3.0х16.
В него можно физически установить, практически, ЛЮБУЮ из существующих видеокарт при условии, что она выпущена после 2008 года - и она будет работать. 
Только при установке бюджетных ВК последних поколений, которые имеют "урезанное" число линий подключения - 8 или даже 4 - вероятна потеря некоторой части производительности - от 3 до 30%.
Это видеокарты -  RTX 3050, RX 5500 и 6400-6650.
Так же не рекомендуется устанавливать в данную МП видеокарты топ и пред-топ классов трех последних поколений - самый мощный процессор для этой платформы - Core i7-3770K - физически не сможет их "прокормить". :)
Наиболее предпочтителен на данный момент вариант GTX 1660 Super.
Новую нормальную ВК можно купить за 16,5-17000 рублей, нормальную б/у или китайский рефаб - за 10000 рублей.

Любые видеокарты с интерфейсом PCI-Express. Конечно, еще и с шиной PCI, но такие видеокарты отжили своё ещё в 00-ых. Однако, не стоит забывать, что у этой материнской платы интерфейс PCI-Express 3.0, из-за чего видеокарты с более свежей версией шины могут потерять малую часть производительности.