Установить можно, но если материнская плата действительно поддерживает не больше 4Гб оперативной памяти, то системе все равно будет доступно только те самые 4Гб, т.к. ограничение на максимальное количество памяти касается соответствующей шины данных, которая общая для обоих физических слотов.
Так что, для того чтобы установить 8Гб оперативной памяти и поиграть в GTA5, придется как минимум менять материнскую плату. Увы :(