¿Cómo se calcula el ancho de banda de memoria?

El ancho de banda de memoria indica cuántos bytes por segundo puede transferir la memoria. Cada transferencia mueve un bit por cada línea del bus de memoria, por lo que el valor máximo se obtiene multiplicando la tasa de transferencia por el ancho del bus y dividiendo entre 8 para obtener bytes.

DDR5-6000 realiza 6.000 millones de transferencias por segundo (MT/s). Un equipo de escritorio con dos canales de 64 bits tiene un bus de 128 bits, por lo que alcanza un máximo de 6.000 × 128 ÷ 8 = 96.000 MB/s, o 96 GB/s. Las velocidades de GDDR y HBM suelen expresarse en Gbps por pin; 1 Gbps por pin equivale a 1.000 MT/s.

Esto es especialmente importante para las tareas que leen muchos datos. Un modelo de IA local denso lee todos sus pesos por cada token que genera, por lo que el ancho de banda establece un límite máximo a la velocidad de respuesta.

Descripción de la herramienta

Elige una configuración de ejemplo, desde DDR4-3200 de doble canal hasta GeForce RTX 5090 e Instinct MI300X, o un tipo de memoria, desde DDR3 hasta HBM3E, y los campos se completarán automáticamente. Puedes cambiar la tasa de datos (en MT/s o Gbps por pin), el ancho del bus por canal, chip o stack, y la cantidad de canales, chips de memoria o stacks. La herramienta calcula:

ancho de banda máximo (bytes/s) = tasa de datos (MT/s) × 1,000,000 × ancho del bus (bits) × cantidad ÷ 8
ancho de banda efectivo = máximo × eficiencia ÷ 100
tiempo de lectura = datos que se leerán ÷ ancho de banda efectivo

Obtendrás el ancho de banda máximo y efectivo en GB/s, el valor máximo en GiB/s y Gbit/s, el ancho total del bus, el ancho de banda por canal, chip o stack, y la fórmula con tus valores. Introduce los datos que se leerán en GB, por ejemplo, el tamaño de un modelo, para ver el tiempo que se tarda en leer los datos una vez y las lecturas completas por segundo. En este caso, GB equivale a 1.000.000.000 bytes.

Ejemplos

Con una eficiencia del 100 % y 16 GB por leer:

Configuración de ejemplo Fórmula Tiempo para leer los datos una vez
DDR4-3200, doble canal 3.200 MT/s × 128 bit ÷ 8 = 51,2 GB/s 312,5 ms
DDR5-6000, doble canal 6.000 MT/s × 128 bit ÷ 8 = 96 GB/s 166,67 ms
Apple M4 Max 8.533 MT/s × 512 bit ÷ 8 = 546,11 GB/s 29,3 ms
PlayStation 5 14.000 MT/s × 256 bit ÷ 8 = 448 GB/s 35,71 ms
GeForce RTX 5090 28.000 MT/s × 512 bit ÷ 8 = 1.792 GB/s 8,93 ms
Instinct MI300X 5.200 MT/s × 8.192 bit ÷ 8 = 5.324,8 GB/s 3 ms

Funciones

  • 14 tipos de memoria y 12 configuraciones de ejemplo reales
  • Ancho de banda efectivo calculado con el valor de eficiencia que elijas
  • Tiempo para leer un modelo o conjunto de datos una vez