Qualcomm Revoluciona IA com Arquitetura HBC

Quebrando a Barreira da Memória na IA

• A “barreira da memória” é um grande limitador de desempenho para muitas cargas de trabalho de IA.
• HBM nem sempre é a solução, pois a capacidade de computação cresce mais rápido que a largura de banda da memória.

A Revolução da Arquitetura HBC da Qualcomm

• Qualcomm apresenta High-Bandwidth Compute (HBC), uma arquitetura de computação próxima à memória.
• Objetivo: Superar a barreira da memória e permitir que o desempenho de certas cargas de trabalho de IA escale linearmente.
• Desagrega o acelerador de IA do sistema-em-chip (SoC) e o coloca sob a pilha LPDDR DRAM.
• Conexão via TSVs (Through-Silicon Vias) para máxima largura de banda e capacidade, sem usar memória HBM cara e encapsulamento avançado.

Vantagens Inovadoras do HBC

• Oferece 6x maior largura de banda por watt comparado a HBM.
• Mais de 200x a capacidade comparado a SRAM on-chip.
• Menor consumo de energia e menos calor.
• Elimina o caro interposer de silício usado por soluções HBM.
• Possibilidade de implantar múltiplos stacks HBC em um único dispositivo usando encapsulamento padrão.

HBC vs. Outras Soluções de Memória Próxima

• Fabricantes de DRAM já experimentaram arquiteturas de computação próxima à memória, mas não as tornaram populares.
• GUC, uma empresa de serviços de design ASIC fabless, propôs sua tecnologia DRAM-on-Logic (DoL).
• A funcionalidade exata do acelerador HBC da Qualcomm ainda não foi totalmente revelada.

Roteiro dos Aceleradores HBC

• **AI200 (final de 2024):** Contará com LPDDR5X e oferecerá 43 TB de RAM por rack.
• **AI250 (sucessor):** Utilizará a 1ª Geração HBC, oferecendo 18x a largura de banda do AI200.
• **AI300:** Usará a 2ª Geração HBC, proporcionando 54x a largura de banda do AI300.