Guri valeu as dicas mas acho que não 'expressei' de modo correto o meu dilema...
A parte de cima da imagem é um desenho simples no Illustrator, a parte de baixo é um desenho com efeitos de contorno aplicado.
O primeiro arquivo (parte de cima), foi salvo com 1,31 mega, depois de aplicar os efeitos ele ficou com 62 mega, por isso acho que o problema é com a placa de vídeo e não com o resto do pc, o Illustrato alertar erros de memória quando tento exportar arquivos para .jpg ou .png, já que preciso usar uma qualidade alta para impressão, mas é só reiniciar, desabilitar o aero, desligar tudo que consome ram e vídeo e consigo fazer isso ou chegar mais perto do necessário, e um detalhe, eu ainda não peguei pesado nos efeitos, estes são simples, já que é só uns 20% do trabalho todo...
Em relação ao sistema, já tive a experiência de rodar xp 32 bits na máquina e ver a 'pissirunga' que é, por isso passei para o Vista 64 (atual SP1), já até tentei instalar a 8600 como uma Quadro FX 1700, deu certo, melhorou o desempenho da placa em uns 5~7%, mas acabei perdendo certas regalias do driver normal dela, como poder girar o monitor para ver melhor certos desenhos, por isso voltei ao normal...
Em relação ao Linux já tentei usar, mas é meio fora de questão para mim por enquanto, não sei mexer muito nele e nem tenho tempo ou lugar para me informar mais sobre os comandos sudo e tal, em relação ao Corel eu mudei a ram, mas depois que migrei para o Illustrator eu deletei os arquivos antigos do Corel, por isso não vou poder testar para ver, acho que não é problema de ram, já que o som continua sempre perfeito, sem lags, rodando perfeitamente, o que normalmente acontece por falta de ram ou processador, e o Corel só reconheceu os 2962 que tinha falado antes, e não os 4 giga...
Meu maior problema é que preciso trabalhar com estas imagens de 62 mega duplicadas as vezes, fazendo o arquivo ficar com 104, ou perto dos 200 mega, sei que é um baita exagero tentar trabalhar com isso com a minha config mas por hora preciso arriscar, até para poder melhorar o pc depois...
Por isso vale a pena trocar a placa de vídeo? Lembrando que não quero gastar mais com pc, ou tem algum outro teste que possa fazer para ver se é a ram ou a 8600?