Да, процессор Core 2 Duo E8500 подойдет под материнскую плату Gigabyte VM900M. У этого процессора разъем LGA775, у материнской платы сокет LGA775. Следовательно, они совместимы.
Достаточно будет одной планочки оперативной памяти DDR3 на 8 гб форм-фактора DIMM (2133 Мгц максимум). По производителю выбирайте сами, но я предпочитаю ОЗУ от Kingston (дешево и сердито).