Rúben Roosevelt

sim.

A memória cache é para armazenar os arquivos ou códigos mais usados, ou quer dizer, você apagar o cache pode deixar o pc ou até o jogo mais lento, só é aconselhável apagar o cache quando tiver dando erro no windows, aí pode apagar o cache para apagar os arquivos corrompidos. E também quando algum jogo ou programa precisa de mais memória, o sistema apaga parte do cache ou até totalmente

Eu não confio não, essas xeon tem tendência a esquentar mais que os processadores comum, por isso compre um water cooler, é melhor.

Gargalo é a cpu não conseguir usar a placa totalmente, ou quer dizer, é bom comprar uma placa melhor possível e depois trocar a cpu e ram no futuro (se precisa claro). E tem placa-mãe, que permite que a cpu use a ram da placa de Vídeo, então se fosse eu focava primeiro em memória de Vídeo e depois no desempenho (já que desempenho você tem de sobra)
Mas essa placa tem pouco gargalo, só trocaria se fosse para uma placa com mais vram e mesmo desempenho ou melhor.

Desative a aceleração de hardware (link ensinando aqui) e veja se continua dando erro, se tiver dando erro, pode ser a placa de Vídeo. Você fez overclock nela esses dias? Se fez overclock, tenta baixar o clock dela se não fez overclock baixe o drive aqui.

Pode atualize a BIOS a partir do mais recente, mas já vou avisando a atualização da BIOS se der algum erro, inutiliza a placa, então faça por sua conta e risco ou procure um técnico confiável.
Você pode comprar a fx-8320 usando no olx, mercado livre e enjoei (ele sai mais barato e deixa dinheiro para outros investimos como a fonte e a gpu), os três sites são seguros, se souber comprar.
Ou comprar uma placa-mãe am5 e um Ryzen 5 do mesmo socket da placa-mãe, se gosta de amd. Ou pode comprar uma placa-mãe LGA 1700 e um processador i3 do mesmo socket se gosta da intel. Essas opções vai gastar mais, mais vai rodar mais jogos.
Mas primeiro comprar uma fonte, se não estragar a gpu ou os novos processadores.
 
E lista de marcas de fontes confiáveis, baseado no reclame aqui:
-EVGA
-Cooler Master
-ASUS
-Pichau

Já tentou tirar a placa de Vídeo e ver se liga o sistema normalmente.

Segundo a intel, a cpu aguenta até 65 graus, ou quer dizer está de boa.

Se for HD recomendo fazer isso aqui:
Se tiver um HD, sobrando (pode ser dos antigos de 4 GB ou de notebook), conecte ele no pc (se for compatível), aí coloque a paginação (no automático claro) no HD velho ou de notebook, e ser for um HD maior que 4 GB (ou tiver outro HD), coloque também os arquivos temporários, para desafogar o HD principal. Desfragmente e otimize seus discos rígidos conectado (recomendo não usar programas de terceiros). Clique em iniciar>na barra de pesquisa e escolha a opção que quiser (é irrelevante para um HD) e alterar configurações de plano e digite "Opções de Energia". Aí vai em Disco rígido> Desligar o disco rígido após: e coloque na opção "Na bateria" e deixa em 0 e na opção "Na tomada" coloque 0.  Pronto isso vai deixar o HD (ou hds, rs), mais rápido.

Team Viewer é bom para isso.