rdlemos, primeiramente não vi necessidade de retroceder para o Win Vista.
O Win7 é superior em muitos aspectos, sendo o Windows Vista um OS muito pesado e com bastante bugs.
A sua VGA tem sim suporte a Pixel Shader até 3.0
De acordo com o Baixaki, segue descrição do significado de Pixel Shader:
"A melhor maneira de entender o que é Pixel Shader é dividir a palavra. O conceito de pixel já é amplo, mas vale a pena reforçar: é a menor parte de informação em uma imagem. Imagine uma imagem como uma grade retangular. Pois bem, os pixels são os pontos de encontros entre as linhas horizontais e verticais.
Quanto maior o número de pixels de uma imagem, maior é sua qualidade, pois um pixel representa uma parte minúscula da imagem e, portanto, não se destaca por si só, apenas como parte do conjunto.
Um shader é um conjunto de instruções para o processamento de efeitos de renderização em uma imagem tridimensional. Com um shader, as imagens são constantemente processadas, o que gera maior flexibilidade para programadores e maior qualidade de imagem para os jogadores."
Verifique se o driver de vídeo utilizado é o mais recente, e procure também monitorar a temperatura da VGA enquanto você joga. Procure pelo MSI AfterBurner que você terá acesso a FPS, rotação da FAN da VGA e sua respectiva temperatura no canto superior esquerdo do monitor enquanto você joga e depois poste no fórum para que possamos te auxiliar.
Abraços