O uso alto de memória ram sem ter aparentemente nada aberto pode ocorrer por dois motivos:
1- Mais provável: Vmware Tools desatualizado
Para resolver, baixe dentro de seu VPS, clicando aqui, a versão atualizada do Vmware Tools e instale. Provavelmente resolverá.
2- Menos provável: Arquivos executados em segundo plano.
Verifique se as atualizações do Windows estão rodando em segundo plano. Uma forma de testar é desligar temporariamente o Windows update.