Jak oblicza się przepustowość pamięci?

Przepustowość pamięci określa, ile bajtów na sekundę może ona przesłać. Każdy transfer przesyła jeden bit przez każdy przewód magistrali pamięci, więc maksymalną przepustowość oblicza się, mnożąc szybkość transferu przez szerokość magistrali, a następnie dzieląc wynik przez 8, aby otrzymać liczbę bajtów.

DDR5-6000 wykonuje 6 000 milionów transferów na sekundę (MT/s). Komputer stacjonarny z dwoma 64-bitowymi kanałami ma magistralę o szerokości 128 bitów, więc jego maksymalna przepustowość wynosi 6 000 × 128 ÷ 8 = 96 000 MB/s, czyli 96 GB/s. Szybkość pamięci GDDR i HBM zwykle podaje się w Gbps na pin; 1 Gbps na pin odpowiada 1 000 MT/s.

Przepustowość ma największe znaczenie w przypadku zadań, które odczytują duże ilości danych. Gęsty lokalny model AI odczytuje wszystkie swoje wagi dla każdego generowanego tokenu, więc przepustowość wyznacza górną granicę szybkości jego działania.

Opis narzędzia

Wybierz przykładową konfigurację — od dwukanałowej DDR4-3200 po GeForce RTX 5090 i Instinct MI300X — albo typ pamięci od DDR3 do HBM3E, a pola zostaną wypełnione automatycznie. Możesz zmienić szybkość transferu (w MT/s lub Gbps na pin), szerokość magistrali na kanał, układ lub stos oraz liczbę kanałów, układów pamięci lub stosów. Narzędzie oblicza:

maks. przepustowość (bajty/s) = szybkość transferu (MT/s) × 1 000 000 × szerokość magistrali (bity) × liczba ÷ 8
efektywna przepustowość = maks. przepustowość × sprawność ÷ 100
czas odczytu = ilość danych do odczytu ÷ efektywna przepustowość

Otrzymasz maksymalną i efektywną przepustowość w GB/s, maksymalną przepustowość w GiB/s i Gbit/s, łączną szerokość magistrali, przepustowość na kanał, układ lub stos oraz wzór z podstawionymi wartościami. Wpisz ilość danych do odczytu w GB, na przykład rozmiar modelu, aby sprawdzić czas jednorazowego odczytu danych i liczbę pełnych odczytów na sekundę. W tym miejscu GB oznacza 1 000 000 000 bajtów.

Przykłady

Przy sprawności 100% i 16 GB danych do odczytu:

Przykładowa konfiguracja Wzór Czas jednorazowego odczytu danych
DDR4-3200, dwa kanały 3 200 MT/s × 128 bitów ÷ 8 = 51,2 GB/s 312,5 ms
DDR5-6000, dwa kanały 6 000 MT/s × 128 bitów ÷ 8 = 96 GB/s 166,67 ms
Apple M4 Max 8 533 MT/s × 512 bitów ÷ 8 = 546,11 GB/s 29,3 ms
PlayStation 5 14 000 MT/s × 256 bitów ÷ 8 = 448 GB/s 35,71 ms
GeForce RTX 5090 28 000 MT/s × 512 bitów ÷ 8 = 1 792 GB/s 8,93 ms
Instinct MI300X 5 200 MT/s × 8 192 bitów ÷ 8 = 5 324,8 GB/s 3 ms

Funkcje

  • 14 typów pamięci i 12 rzeczywistych przykładowych konfiguracji
  • Efektywna przepustowość obliczana na podstawie podanej sprawności
  • Czas jednorazowego odczytu modelu lub zbioru danych