Estou fazendo esse post na intenção de ajudar quem estiver passando pelo mesmo problema que eu passei e encontrara essa resolução
Esses dias estava eu jogando, quando percebi um bug visual (ficava com uns "chapiscos" e piscando) no meu monitor que acontecia somente com a cor ciano.
Essa imagem por exemplo estava com esse bug:
Essa imagem exemplifica bem como a cor ciano estava aparecendo no meu monitor (mas só com a cor ciano):
RESOLUÇÃO
A principio eu achei que fosse meu VGA ou monitor, porém, pesquisando sobre eu consegui descobri como resolver.
Basta que você vá nas configurações da placa de vídeo e mude o formato de pixel como ilustrado na imagem abaixo, no caso o meu estava marcado YCbCr 4:4:4 Pixel Format
e quando eu mudei pra RGB 4:4:4 Pixel Format Studio o problema foi consertado.
Espero ter ajudado assim como isso me ajudou evitando que eu comprasse outro cabo VGA, de qualquer forma eu estou um pouco insatisfeito com a minha RX580, não sei se isso é só comigo ou com outras placas AMD's tambem, só sei que ela ja me deu muita dor de cabeça com vario erros e bugs.