Finalmente eu troquei a placa de video do meu pc e pude de uma vez por todas me livrar da maldição da falta de vram que tinha (passou de 1gb para 4gb). Mas quando pensei que meus problemas acabaram, eles estavam só começando.
Quando fui ligar o cabo, descobri que a saída apesar de ser DVI era bem diferente, pois na placa é DVI-D e meu adaptador é DVI-I para VGA. Fui até o centro da cidade de novo pra comprar um adaptador que encaixasse, só para descobrir que não funciona, porque ela não faz a conversão do sinal de vídeo.
No dia seguinte fui a um shopping perto de casa e comprei um conversor hdmi-vga, que também não funcionou. Porém quando eu a testei na placa antiga ela conseguiu mandar imagem pro monitor. O que me deixou furioso, afinal ambas tem saida hdmi mas o conversor só pega na antiga e não na nova. Foi quando descobri que uma usa hdmi 1.4b e a outra é hdmi 2.0b, me fazendo acreditar que o conversor não é compatível com dispositivos mais novos. Pra saber se o problema era a placa eu liguei o micro na tv da sala (com um cabo hdmi normal), e funcionou perfeitamente.
Existe alguma outra coisa que posso fazer? Gastei o que tinha e o que não tinha nessa placa e só vou comprar outro monitor em último caso. Minha placa nova é uma gtx 1050 ti da gigabyte e a antiga é uma gtx 750 da pny, que instalei num outro micro de um familiar meu.