Como a largura de banda da memória é calculada?

A largura de banda da memória corresponde à quantidade de bytes que a memória pode transferir por segundo. Cada transferência move um bit por fio do barramento de memória. Portanto, o pico é a taxa de transferência multiplicada pela largura do barramento e dividida por 8 para obter bytes.

DDR5-6000 realiza 6.000 milhões de transferências por segundo (MT/s). Um computador desktop com dois canais de 64 bits tem um barramento de 128 bits, portanto, atinge um pico de 6.000 × 128 ÷ 8 = 96.000 MB/s, ou 96 GB/s. As velocidades de GDDR e HBM geralmente são expressas em Gbps por pino; nesse caso, 1 Gbps por pino equivale a 1.000 MT/s.

Isso é mais importante para tarefas que leem muitos dados. Um modelo local de IA denso lê todos os seus pesos para cada token que gera, portanto, a largura de banda limita a velocidade com que ele responde.

Descrição da ferramenta

Escolha uma Configuração de exemplo, desde DDR4-3200 em canal duplo até GeForce RTX 5090 e Instinct MI300X, ou um Tipo de memória, de DDR3 a HBM3E, e os campos serão preenchidos. Você pode alterar a Taxa de dados (em MT/s ou Gbps por pino), a largura do barramento por canal, chip ou pilha e o número de canais, chips de memória ou pilhas. A ferramenta calcula:

pico (bytes/s) = taxa de dados (MT/s) × 1.000.000 × largura do barramento (bits) × quantidade ÷ 8
efetiva = pico × eficiência ÷ 100
tempo de leitura = dados a ler ÷ efetiva

Você verá a Largura de banda de pico e a Largura de banda efetiva em GB/s, o pico em GiB/s e Gbit/s, a Largura total do barramento, a largura de banda por canal, chip ou pilha e a Fórmula com os seus valores. Informe os Dados a ler em GB, por exemplo, o tamanho de um modelo, para ver o Tempo para ler os dados uma vez e as Leituras completas por segundo. Aqui, GB significa 1.000.000.000 bytes.

Exemplos

Com eficiência de 100% e 16 GB para ler:

Configuração de exemplo Fórmula Tempo para ler os dados uma vez
DDR4-3200, canal duplo 3.200 MT/s × 128 bits ÷ 8 = 51,2 GB/s 312,5 ms
DDR5-6000, canal duplo 6.000 MT/s × 128 bits ÷ 8 = 96 GB/s 166,67 ms
Apple M4 Max 8.533 MT/s × 512 bits ÷ 8 = 546,11 GB/s 29,3 ms
PlayStation 5 14.000 MT/s × 256 bits ÷ 8 = 448 GB/s 35,71 ms
GeForce RTX 5090 28.000 MT/s × 512 bits ÷ 8 = 1.792 GB/s 8,93 ms
Instinct MI300X 5.200 MT/s × 8.192 bits ÷ 8 = 5.324,8 GB/s 3 ms

Recursos

  • 14 tipos de memória e 12 configurações reais de exemplo
  • Largura de banda efetiva calculada com o valor de eficiência que você informar
  • Tempo para ler um modelo ou conjunto de dados uma vez