Vou responder na ordem do que você deve trocar primeiro:
Placa-mães da Biostar são bem ruinzinhas e essa aí não suporta o processador que eu vou te indicar, logo, precisa ser a primeira a ser trocada. Pegue uma ASUS Prime B550M-K (R$ 679,90).
Troque por um Ryzen 5600 (R$ 889,99).
Eu não sei se é o modelo antigo (que literalmente explode) dessa fonte, então é melhor trocá-la antes de colocar uma placa de vídeo mais potente. Portanto, pegue uma MSI MAG A650BN (R$ 399,99)
A RX 6750XT (R$ 2.429,99) vem sendo a melhor custo/benefício do mercado, com uma ótima longevidade graças aos seus 12GB VRAM e com desempenho bruto equivalente a uma RTX 3070 que custa, normalmente, 600 ~ 1000 reais a mais. Dependendo de quando você comprar, talvez você encontre a RX 6700XT mais barata, pegue-a caso a diferença de preço seja "significativa".
Quanto a essa memória, quando a nova placa-mãe chegar, você pode ativar o XMP e colocá-la pra funcionar em uma frequência maior.
Você pode colocar um SSD NVMe de 500GB ou 1TB. O que eu indico é o Kingston NV2.