Rhyner

@KauanHGS isso é uma 6600M, ou seja, placa de Vídeo de notebook que os chineses alteram e transformam para desktop. Ou seja, não compre.

@Lucas Lara , esse seu problema pode ser ocasionado por diversos motivos.
Você instalou os drivers novamente usando o site do fabricante e desinstalando os antigos, se não fez isso tem q fazer. 
Tenta postar um vídeo jogando e usando algum programa de monitoramento para ver as temperaturas, utilização, frequências da gpu, cpu, memória ram  e mobo(placa-mãe) .
Também há dois possíveis problemas:
- sua fonte não é de uma boa qualidade, ngm no site recomenda c3tech, que costuma fazer fontes bombas e meia boca. Informe o modelo exato dela e você pode pesquisar e ver review dela na internet;
- sua placa-mãe é bem básica, nem se quer tem dissipador nos VRMs.
Isso em geral é ocasionado pela placa-mãe q esquenta os mosfet e para diminuir a temperatura baixa a frequência do processador.
Para entender um pouco veja o link abaixo sobre como esse problema ocorre.
https://adrenaline.com.br/forum/threads/refrigeracao-de-vrm-e-mosfets.648112/
 

@Felipe Araújo Alberto , é só montar normalmente.
O processador funciona com a bios de atualização mínima ou acima.

@VYK9 , digo que sai caro no sentido que esse gammaxx 400 sai no kabum por 70 conto e pra você colocar outro cooler gastará quase o preço da metade dele. foi nesse sentido.
E tb há um problema em você ligar um cooler no cpu fan e outro na fonte. Um irá aumentar a velocidade conforme a necessidade e o da fonte irá trabalhar sempre nos 100%. 

Dá uma olhada nesse post que o amigo @Openkore está montando, está muito bem feito e pode te ajudar.
 
 
Obs: você irá rodar GTA 5, mas não espere muita coisa, pois um "PC Gamer médio" você gastaria 2500 sem contar os periféricos(monitor, mouse, teclado, Headset, etc)

Vai funcionar normalmente.
O 1600af seria como um Ryzen 2600 com algumas especificações piores.
Só tente comprar memórias DDR4 de 3000 a 3200Mhz para você poder usar todo o potencial do processador.

Bom, olhando a sua configuração tem duas coisas que podem influenciar na performance da máquina:
- Primeiro: você está usando HD Sata I, isso ai nem rola usar. O atual é Sata III e faz muita diferença quando algum processo utiliza o HD;
- Segundo: o ideal para os FX é utilizar memorias 1866Mhz e de preferência c9(latência).
A temperatura pelo que você informou está boa, sem problemas. Porém seria melhor informar a temperatura de tudo (placa de vídeo, placa mãe, processador). 

10x0 também não vamos exagerar ... link abaixo com comparação entre os processadores
http://www.anandtech.com/bench/product/697?vs=1198
 
Mas sei não, concordo que se você quiser um pc para jogos é melhor intel. Porém por esse preço 3,5k no pc compensa mais você levar um q tenha a GTX970.
 
link de pc intel com 970 e por um pouco menos de 3,5k
http://www.terabyteshop.com.br/t-gamer-intel-geforce/computador-t-gamer-intel-i5-4460-3.20ghz-4-geração--8gb-ddr3--hd-1tb--dvd-rw--msi-geforce-gtx-970-gaming-4gb-chdmi--gab-spec-01.ptml

Nem adianta que para você fazer oc precisa de no mínimo uma placa mãe com início Z77 e o seu processador teria que ser o I7 2600K.
Como o que você possui é o I7 2600 não é destravado para oc.

Depende se você não fizer overclock e tiver um bom gabinete ele aguenta de boa.
A única coisa que talvez você vá se incomodar é o barulho que ele faz após jogar durante algum tempo.

Esses coolers tanto air coolers como os watercoolers possuem encaixes de acordo com o soquete do processador, não há necessidade de furos extras na MoBo para a instalação ... isso de furo é só para gabinete.
 
Olhe o link abaixo que informa os soquetes que o H80i suporta.
http://www.corsair.com/en-us/hydro-series-h80i-high-performance-liquid-cpu-cooler
 
Link abaixo com vídeo para facilitar a instalação.

Infelizmente para os AMDs as MoBos são mais caras que para Intel .... eu aconselho a pegar essa ga-970a-ds3p
http://londritech.com.br/placa-mãe-am3-gigabyte-ga-970a-ds3p-atx-ddr3-1866mhz-sata-iii-usb30-8870.html
 
Uma coisa que também é aconselhável caso pegue AMD é pegar a memórias com 1866Mhz para não perder performance.
Segue orçamento abaixo(feito na pichau):
 
   
PROCESSADOR INTEL CORE I5-4460 HASWELL, 3.2GHZ, 6MB, QUAD-CORE - BOX      R$678,00                         PLACA MÃE ASUS B85M-E/BR, INTEL LGA 1150 CHIPSET INTEL B85 - BOX    R$320,00
MEMÓRIA KINGSTON HYPERX FURY 4GB (1X4), DDR3 1866MHZ CL9 RED, HX318C10FR/4 - BOX R$224,00  RADEON GIGABYTE R9 270X WINDFORCE 2GB GDDR5 256BITS, GV-R927XOC-2GD - BOX R$799,00                   HD WESTERN DIGITAL 1TB CAVIAR BLUE SATA III 3.5", WD10EZEX - OEM R$249,99                                           GABINETE AEROCOOL GT BLACK, EN52209 - BOX      R$129,00                                                                                FONTE EVGA 500B 500W, 80 PLUS BRONZE, PFC ATIVO, 100-B1-0500-KR - BOX R$253,00
SUBTOTAL DOS PRODUTOS: R$2.652,99  <--- Esse preço é parcelado à vista é mais barato

Não vale a pena comprar i7 se sua máquina será somente para jogos, a diferença de performance entre i5 vs i7 é muito pequena e as vezes nula.
O que faz a diferença em jogos é a gpu, um i5 mais uma gpu excelente já é o suficiente.
E outra esse seu i7 nem K é, ou seja, vai pegar a MoBo Z87 a toa.

Se você der uma pesquisada consegue comprar uma R9 270X ou uma GTX760. 
Elas são as placas de vídeo com o melhor custo benefício, rodando qualquer jogo tranquilamente.