Aegir

se o objetivo e o máximo com o over o melhor e o r7 2700x pois ele sobe melhor que o 1800x, sendo que mesmo com cooler box já e possível um over mediano no caso do 2700x.
agora se o foco for custo/benefício entre estes 2 eu acho que o 1800x te traria mais pois além de sair mais barato, ele te entregaria um rendimento inferior ao 2700x de apenas 5% a 10% quase irrisório.

provavelmente você esta com problema de atualização de BIOS esse modelo de ryzen fica dando telas azuis quando a BIOS ainda esta em modelo que vem com a mobo de fabrica veja isto:
 

aparentemente isso parece ser defeito no botão reset de seu gabinete, faça um teste desligue os conectores dos botões de liga e reset e tente funcionar o PC fazendo um curto nos jumper`s do power de sua mobo com uma chave de fenda e utilize o PC por algum tempo e veja se reinicia, caso não reinicie indicara que o seu problema foi encontrado ai e só você adquirir um botão para substituir o defeituoso ou adquirir um novo gabinete.

a resposta e claro você deve utilizar seus 16gb de RAM, quanto as frequências não fique bitolado nelas pois as mesmas pouco influíram no desempenho de seu PC.

amigo se seu orçamento esta na casa dos 2300 fica apertado pelo preço das ram e das gpu que andam caras, masvc pode fazer isto:
mobo: uma b350 entorno de 500 reais
cpu: iniciaria com um ryzen 3 1200 na loja cissamagazine esta por 299.00 reais
memoria: aqui você vai gastar uns 500 reais para ter uns 8gb mais ou menos.
gpu: você encontra uma gtx 1060 3gb ainda por uns 1000 mangos no cash.
tudo fecharia nos seus 2300 cravados, porém sem o frete.

se planejas trocar por um i5 vá com uma h110 mesmo seria o melhor custo/benefício.
quanto ao modelo poderia ser esta:
esta b250 esta num bom preço e acompanha um mouse de brinde
MSI B250M GAMING PRO DDR4
olhando para o custo/benefício acho difícil ter mais barata.
placa-me-asrock-ddr4

se você olhar no manual da mobo:
MANUAL Z170M-PLUS
na pagina 12 tem o esquema de sua placa.
o conector que você esta procurando e o de numero 14

seu athlon se não me engano o socket dele e am3, os ryzen possuem socket am4 ou seja daria incompatibilidade.
se seu objetivo e trocá-lo por um ryzen eu no seu caso guardaria grana para fazer um up logo de processador+mobo+mémoria, não compensaria investir em melhorias na sua atual plataforma que esta me perdoe pela palavra muito defasada.
porém, dependendo da sua mobo atual você poderia ao menos adquirir um fx serie 8000 para cima usado (claro dependendo do preço) para melhora-lo e montar algo jogável mas, você ficaria limitado a tecnologias também defasadas, eu faria isto que mencionei apenas se a grana estiver muito curta.