AMD Lança MI350P: O Novo Acelerador de IA PCIe
Desempenho Superior com 144GB HBM3E e 40% Mais Rápido que Nvidia H200 NVL
Novo Acelerador AMD MI350P PCIe
- Lançamento: Membro da série MI350 com formato PCIe.
- Especificações: 128 CUs e 144GB de memória HBM3E.
- Compatibilidade: Upgrade direto para servidores refrigerados a ar.
Design e Consumo de Energia
- Formato: Placa de slot duplo de 10.5 polegadas.
- Refrigeração: Solução sem ventoinha (depende dos ventiladores do chassi).
- Potência: Envelope de 600W, configurável para 450W para maior compatibilidade.
Especificações Técnicas Detalhadas
- Arquitetura: CDNA4, fabricada em TSMC 3nm e 6nm FinFET.
- Cores: 8.192 núcleos, 128 CUs, 512 Matrix Cores.
- Clock: Velocidade máxima de 2.2GHz.
- Memória: 144GB HBM3E com 4TB/s de largura de banda.
- Cache: 128MB de cache de último nível.
Recursos e Aplicações em IA
- Suporte: MXFP6 e MXFP4 para aceleração de LLMs.
- Escalabilidade: Até oito placas MI350P em um único sistema.
- Foco: Cargas de trabalho de IA, inferência e pipelines RAG.
- Desempenho: Mais rápida placa PCIe empresarial com até 4.600 TFLOPs (MXFP4).
Concorrência com Nvidia
- Rival: Competidor direto do Nvidia H200 NVL.
- Vantagem: Arquitetura mais recente e desempenho superior.
- Comparativo: 20% melhor em FP64, 43% em FP16, 39% em FP8.
Posicionamento de Mercado e Futuro
- Liderança: AMD com o acelerador de IA PCIe mais avançado do momento.
- Desafio: Superar o domínio da Nvidia e do CUDA.
- Inovação: AMD aprimora a pilha de software ROCm.
Baseado no artigo de Tom’s Hardware