HBF: Terabytes de Memória Extra para GPUs

A Sandisk e a SK hynix apresentaram formalmente a especificação High Bandwidth Flash (HBF), uma tecnologia de armazenamento desenvolvida em conjunto.

• O que é HBF? Combina a não-volatilidade da 3D NAND com o desempenho da High Bandwidth Memory (HBM).
• Para que serve? Ideal para sistemas de inferência de IA.
• Status: Lançada através do Open Compute Project (OCP) como um padrão aberto.

Capacidades e Design

• Pacotes HBF: Capacidade de até 512GB.
• Tecnologia: Utiliza pilhas de die NAND de 8-Hi ou 16-Hi.
• Diferencial: Não são pilhas 3D NAND padrão, mas dispositivos especializados com interface rápida (chamados de “HBF core dies”).

Desempenho da HBF

• Largura de banda: Variando de 0.4 TB/s a 3.0 TB/s.
• Roadmap: Grande variação sugere um plano de desenvolvimento de vários anos e múltiplas gerações.
• Comparativo: A implementação mais avançada (3 TB/s) pode superar a largura de banda de uma pilha HBM4 (2 TB/s).
• Importante: HBM4 provavelmente manterá a vantagem em latência.

Integração e Interfaces

• SK hynix: HBF utiliza o padrão UCIe (Universal Chiplet Interconnect Express) para integração em plataformas de computação heterogêneas.
• Sandisk: Menciona a adoção da interface ‘xPU-HBF’, possivelmente uma variação do UCIe por empresas como Broadcom ou Marvell.

Detalhes da Especificação

• Além de capacidade e desempenho, a especificação define características elétricas, de interface, empacotamento e confiabilidade.
• Inclui requisitos de I/O de software.
• Status: As especificações ainda não foram publicadas oficialmente pelo OCP.

Engenharia e Aplicações

• Desafio: Obter 400 GB/s de largura de banda de um pacote HBF de 512GB é complexo.
• Solução: Pode envolver 16 HBF core dies com múltiplos arrays para acesso concorrente.
• Interface UCIe: Uma única interface UCIe (64 GT/s, 64 lanes) pode atingir mais de 400 GB/s por pacote.
• Posicionamento da HBF: Uma nova camada de memória para cargas de trabalho de inferência de IA.
• Vantagem: Combina largura de banda próxima à memória com alta capacidade e não-volatilidade da flash NAND.
• Ideal para: Cargas de trabalho que exigem pools de memória maiores do que o HBM pode oferecer economicamente.
• Exemplo: HBM4 tem capacidade máxima de 64GB, enquanto HBF pode chegar a 512GB.

Adoção da Tecnologia

• Parcerias: Desde o anúncio em 2025, Google e Tenstorrent mostraram interesse no consórcio HBF.
• Falta de Interesse: Grandes nomes como AMD, Broadcom, Intel, Nvidia, Marvell, Micron, Qualcomm, Samsung e Western Digital ainda não demonstraram interesse.