Изначально VPS были недорогой альтернативой выделенным серверам. Они могли обеспечить решение практически тех же задач но были ограничены ресурсами ("часть полноценного компьютера" со своей операционной системой). Это накладывало и ограничения по администрированию и управлению. Нужно было разбираться в операционной системе, уметь настроить правила фильтрования и таблицы маршрутизации.
Сейчас все стало намного проще и у поставщиков данных услуг имеются удобные панели в которых в пару кликов можно переустановить систему, настроить бод себя или "поднять" свой блог на WordPress или Drupal.
На мой взгляд наиболее оптимальным сейчас являются VPS Selctel (https://selectel.ru/services/cloud/vps/?ref_code=5893eea951). Они обеспечивают высочайшую надежность и "ультра" сервис за небольшие деньги.
Как правило, VPS заказывать веб-программисты для больших серьёзных сайтов, где надо добавлять много кода руками, и смысла в хостинг-панелях нет.
Также, VPS может использоваться для чего угодно, как и любая собственная ОС: rdp/vnc подключение, VPN для объединения организаций / CDN / DNS сервер / email-сервер, своё облако.
Для удобства предлагаются готовые наборы ПО.