Posso colocar 2 placas de vídeo no mesmo PC? Para geração IA

TheDemonLena · 29 de março

Oiie, bom diaaaa :3

Tenho aqui uma configuração bem modesta para os padrões de hoje até e gostaria de usar uma placa secundária para rodar alguns aparelhos de IA.
Seria possível fazer isso em um computador padrão? Eu não quero que a placa secundária de vídeo, somente quero usar seu poder de processamento.

Minha fonte suportaria esta configuração ou precisaria trocar para uma de 750W? Config abaixo:

Ryzen 9 5900XT
64GB 3200Mhz Redragon
MSI B550M PRO VDH WIFI (Imagino que precisaria de um cabo 4x para 16x)
Radeon RX 7800XT
RTX 2060 (Essa seria a secundária)
MSI MAG 650W (Trocaria por uma Corsair CX 750 caso precise (Já tenho essa fonte))

Gabriel U · 29 de março

2 horas atrás, TheDemonLena disse:

Tenho aqui uma configuração bem modesta para os padrões de hoje até e gostaria de usar uma placa secundária para rodar alguns aparelhos de IA.

Bom dia.

Sua humildade chega a ser comovente, sabia?

TheDemonLena · 29 de março

26 minutos atrás, Gabriel U disse:

Sua humildade chega a ser comovente, sabia?

Hey, mim deixa Meu PC é um bomba relógio como você bem sabe

uotlaf · 30 de março

Sim, dá pra fazer

Tanto o ROCM quanto via CUDA, dá pra selecionar qual dispositivo você quer usar. Se for pra treinar ou usar modelos prontos manualmente, dá pra configurar isso tanto no tensorflow quanto no pytorch. Se for pra usar frontends ou programas de terceiros, tem que ver o suporte pra selecionar a gpu em cada um deles.

TheDemonLena · 30 de março

@uotlaf se acha que com uma fonte de 650w suporta?

uotlaf · 30 de março

Uma correção: Agora que eu vi que você tem uma gpu amd e uma nvidia. Não vai dar pra usar as duas ao mesmo tempo pra IA com as APIs proprietárias delas(só se tu rodar modelos diferentes em instâncias diferentes). Talvez dê em DirectML ou Vulkan, mas não dá pra saber sem tentar. Fora que a 2060 tem menos vram que a 7800XT

3 minutos atrás, TheDemonLena disse:

@uotlaf se acha que com uma fonte de 650w suporta?

Os três ao mesmo tempo(5900XT, 7800XT e 2060) já ficam perigosamente perto dos 600W sem contar o resto do setup. Eu não arriscaria usar os três em ppt máximo ao mesmo tempo.

Em IA raramente teu cpu vai trabalhar(a menos que seja em cenário de offload pra gpu, e ainda sim a memória RAM vai ser um limite), então o 5900XT não deve chegar próximo disso. Mas como você tem uma gpu amd e uma nvidia, creio que vá querer jogar na amd enquanto a nvidia roda os modelos(até porque IA na AMD é bem ruim).

Marcos FRM · 30 de março

39 minutos atrás, uotlaf disse:

dá pra configurar isso tanto no tensorflow quanto no pytorch

ROCm funciona bem hoje em dia? Antigamente era só CUDA (ou seja, Nvidia) que o pessoal recomendava.

uotlaf · 30 de março

5 minutos atrás, Marcos FRM disse:

ROCm funciona bem hoje em dia? Antigamente era só CUDA (ou seja, Nvidia) que o pessoal recomendava.

Funciona, mas ainda tá bem atrás de CUDA:

- Só tem suporte completo pra linux no pytorch

- HIP Runtime só funciona oficialmente em certas gpus(tem uma opção pra ignorar o check, e aí ele funciona no resto)

- A performance é bem abaixo do esperado

- Mesmo no tensorflow o suporte é bem "as vezes funciona".

Fora que o suporte em aplicativos de terceiros também é bem precário.

Se ignorar tudo isso, dá pra usar. Eu usei na minha RX 6600(em linux) pra treinar um modelo pra uma matéria e deu tudo certo. Só tem que ter cuidado pra não dar OOM porque ele se recusa a ir pra shared mem

Marcos FRM · 30 de março

Só complicação ainda. Melhor evitar se possível.

TheDemonLena · 30 de março

44 minutos atrás, uotlaf disse:

Uma correção: Agora que eu vi que você tem uma gpu amd e uma nvidia. Não vai dar pra usar as duas ao mesmo tempo pra IA com as APIs proprietárias delas(só se tu rodar modelos diferentes em instâncias diferentes). Talvez dê em DirectML ou Vulkan, mas não dá pra saber sem tentar. Fora que a 2060 tem menos vram que a 7800XT

Os três ao mesmo tempo(5900XT, 7800XT e 2060) já ficam perigosamente perto dos 600W sem contar o resto do setup. Eu não arriscaria usar os três em ppt máximo ao mesmo tempo.

Em IA raramente teu cpu vai trabalhar(a menos que seja em cenário de offload pra gpu, e ainda sim a memória RAM vai ser um limite), então o 5900XT não deve chegar próximo disso. Mas como você tem uma gpu amd e uma nvidia, creio que vá querer jogar na amd enquanto a nvidia roda os modelos(até porque IA na AMD é bem ruim).

Vou usar apenas a 2060 para IA, e vou colocar uma fonte de 750, porque a fonte de 650 não tem 2 conectores pra placa de vídeo. Atualmente obtive no máximo 500w em processos pesados

Marcos FRM · 4 de abril

Em 30/03/2025 às 16:53, uotlaf disse:

- Só tem suporte completo pra linux no pytorch

Espero não estar off-topic. ROCm existe só para Linux? Pois, pelo que vi, não tem implementação oficial para Windows...?

FoxBlack · 4 de abril

@Marcos FRM Seria Isso ? HIP-SDK Para Windows

Marcos FRM · 4 de abril

Mas esse tutorial é justamente para rodar a versão para Linux dentro do Windows Subsystem for Linux (WSL)! O WSL 2 é uma máquina virtual Hyper-V otimizada: https://learn.microsoft.com/en-us/windows/wsl/compare-versions (o WSL 1 não, mas não tem 100% de compatibilidade; hoje, acho que o WSL 2 é o padrão).

Diferente do CUDA, que é nativo no Windows.

FoxBlack · 4 de abril

5 minutos atrás, Marcos FRM disse:

Mas esse tutorial é justamente para rodar a versão para Linux dentro do Windows[....]

Sim! Pesquisei no cacique Google e só achei essa informação. Realmente parece não ter versão nativa para Windows. Só foi disponibilizado o hip-sdk, que seria parte do rocm. Ou seja, Só um pedaço do bolo está disponível para Windows.

uotlaf · 6 de abril

Em 04/04/2025 às 08:36, Marcos FRM disse:

Espero não estar off-topic. ROCm existe só para Linux? Pois, pelo que vi, não tem implementação oficial para Windows...?

Existe, mas não inteiro. A parte dele que existe pra windows é parte da HIP SDK for windows(inclusive vem com um fork do clang). Aqui tem a lista de diferenças entre os dois.

É bem mais limitado que o próprio rocm pra linux(e olha que esse já é bem limitado).