Wie wird die Speicherbandbreite berechnet?

Die Speicherbandbreite gibt an, wie viele Bytes pro Sekunde der Speicher liefern kann. Bei jeder Übertragung wird ein Bit über jede Leitung des Speicherbusses übertragen. Die Spitzenbandbreite ergibt sich daher aus der Übertragungsrate multipliziert mit der Busbreite und geteilt durch 8, um die Anzahl der Bytes zu erhalten.

DDR5-6000 ermöglicht 6.000 Millionen Übertragungen pro Sekunde (MT/s). Ein Desktop-PC mit zwei 64-Bit-Kanälen hat einen 128-Bit-Bus und erreicht somit eine Spitzenbandbreite von 6.000 × 128 ÷ 8 = 96.000 MB/s oder 96 GB/s. Geschwindigkeiten von GDDR und HBM werden üblicherweise stattdessen in Gbit/s pro Pin angegeben; 1 Gbit/s pro Pin entspricht 1.000 MT/s.

Besonders wichtig ist die Speicherbandbreite bei Aufgaben, bei denen große Datenmengen gelesen werden. Ein dichtes lokales KI-Modell liest für jedes Token, das es ausgibt, alle seine Gewichte aus dem Speicher. Daher begrenzt die Bandbreite, wie schnell es antworten kann.

Beschreibung des Tools

Wähle eine Beispielkonfiguration aus – von DDR4-3200 im Zweikanalbetrieb bis zur GeForce RTX 5090 und Instinct MI300X – oder einen Speichertyp von DDR3 bis HBM3E. Die Felder werden dann automatisch ausgefüllt. Du kannst die Datenrate (in MT/s oder Gbit/s pro Pin), die Busbreite pro Kanal, Chip oder Stack sowie die Anzahl der Kanäle, Speicherchips oder Stacks ändern. Das Tool berechnet:

Spitzenbandbreite (Bytes/s) = Datenrate (MT/s) × 1.000.000 × Busbreite (Bit) × Anzahl ÷ 8
effektive Bandbreite = Spitzenbandbreite × Effizienz ÷ 100
Lesezeit = zu lesende Daten ÷ effektive Bandbreite

Du erhältst die Spitzenbandbreite und die effektive Bandbreite in GB/s, die Spitzenbandbreite in GiB/s und Gbit/s, die gesamte Busbreite, die Bandbreite pro Kanal, Chip oder Stack sowie die Formel mit deinen Werten. Gib unter „Zu lesende Daten“ einen Wert in GB ein, zum Beispiel die Größe eines Modells, um die Zeit für einen vollständigen Lesevorgang und die vollständigen Lesevorgänge pro Sekunde anzuzeigen. GB steht hier für 1.000.000.000 Bytes.

Beispiele

Bei 100 % Effizienz und 16 GB zu lesenden Daten:

Beispielkonfiguration Formel Zeit für einen vollständigen Lesevorgang
DDR4-3200, Zweikanalbetrieb 3.200 MT/s × 128 Bit ÷ 8 = 51,2 GB/s 312,5 ms
DDR5-6000, Zweikanalbetrieb 6.000 MT/s × 128 Bit ÷ 8 = 96 GB/s 166,67 ms
Apple M4 Max 8.533 MT/s × 512 Bit ÷ 8 = 546,11 GB/s 29,3 ms
PlayStation 5 14.000 MT/s × 256 Bit ÷ 8 = 448 GB/s 35,71 ms
GeForce RTX 5090 28.000 MT/s × 512 Bit ÷ 8 = 1.792 GB/s 8,93 ms
Instinct MI300X 5.200 MT/s × 8.192 Bit ÷ 8 = 5.324,8 GB/s 3 ms

Funktionen

  • 14 Speichertypen und 12 reale Beispielkonfigurationen
  • Effektive Bandbreite mit einem eigenen Effizienzwert
  • Zeit für einen vollständigen Lesevorgang eines Modells oder Datensatzes