AMD Lança MI350P: O Novo Acelerador de IA PCIe

Desempenho Superior com 144GB HBM3E e 40% Mais Rápido que Nvidia H200 NVL

Novo Acelerador AMD MI350P PCIe

  • Lançamento: Membro da série MI350 com formato PCIe.
  • Especificações: 128 CUs e 144GB de memória HBM3E.
  • Compatibilidade: Upgrade direto para servidores refrigerados a ar.

Design e Consumo de Energia

  • Formato: Placa de slot duplo de 10.5 polegadas.
  • Refrigeração: Solução sem ventoinha (depende dos ventiladores do chassi).
  • Potência: Envelope de 600W, configurável para 450W para maior compatibilidade.

Especificações Técnicas Detalhadas

  • Arquitetura: CDNA4, fabricada em TSMC 3nm e 6nm FinFET.
  • Cores: 8.192 núcleos, 128 CUs, 512 Matrix Cores.
  • Clock: Velocidade máxima de 2.2GHz.
  • Memória: 144GB HBM3E com 4TB/s de largura de banda.
  • Cache: 128MB de cache de último nível.

Recursos e Aplicações em IA

  • Suporte: MXFP6 e MXFP4 para aceleração de LLMs.
  • Escalabilidade: Até oito placas MI350P em um único sistema.
  • Foco: Cargas de trabalho de IA, inferência e pipelines RAG.
  • Desempenho: Mais rápida placa PCIe empresarial com até 4.600 TFLOPs (MXFP4).

Concorrência com Nvidia

  • Rival: Competidor direto do Nvidia H200 NVL.
  • Vantagem: Arquitetura mais recente e desempenho superior.
  • Comparativo: 20% melhor em FP64, 43% em FP16, 39% em FP8.

Posicionamento de Mercado e Futuro

  • Liderança: AMD com o acelerador de IA PCIe mais avançado do momento.
  • Desafio: Superar o domínio da Nvidia e do CUDA.
  • Inovação: AMD aprimora a pilha de software ROCm.
Baseado no artigo de Tom’s Hardware