Bellek bant genişliği nasıl hesaplanır?

Bellek bant genişliği, belleğin saniyede aktarabileceği bayt miktarıdır. Her aktarımda bellek veri yolundaki her hat üzerinden bir bit taşınır. Bu nedenle tepe değerini bulmak için aktarım hızını veri yolu genişliğiyle çarpıp bayt cinsinden sonuç elde etmek üzere 8'e bölün.

DDR5-6000, saniyede 6.000 milyon aktarım gerçekleştirir (MT/s). İki adet 64 bit kanala sahip bir masaüstü bilgisayarın veri yolu 128 bittir. Bu nedenle tepe bant genişliği 6.000 × 128 ÷ 8 = 96.000 MB/s, yani 96 GB/s olur. GDDR ve HBM hızları genellikle pin başına Gbps cinsinden verilir; pin başına 1 Gbps, 1.000 MT/s'ye karşılık gelir.

Bu değer, çok fazla veri okuyan görevler için özellikle önemlidir. Yoğun bir yerel yapay zekâ modeli, ürettiği her token için tüm ağırlıklarını okur. Bu nedenle bant genişliği, modelin ne kadar hızlı yanıt verebileceğine üst sınır koyar.

Araç açıklaması

DDR4-3200 çift kanaldan GeForce RTX 5090 ve Instinct MI300X'e kadar bir örnek yapılandırma ya da DDR3'ten HBM3E'ye kadar bir bellek türü seçin; alanlar otomatik olarak doldurulur. Veri hızını (MT/s veya pin başına Gbps cinsinden), kanal başına veri yolu genişliğini, yonga veya yığın sayısını ve kanal, bellek yongası ya da yığın sayısını değiştirebilirsiniz. Araç şunları hesaplar:

tepe (bayt/s) = veri hızı (MT/s) × 1,000,000 × veri yolu genişliği (bit) × sayı ÷ 8
etkin = tepe × verimlilik ÷ 100
okuma süresi = okunacak veri ÷ etkin

Tepe bant genişliğini ve etkin bant genişliğini GB/s cinsinden; tepe değeri GiB/s ve Gbit/s cinsinden; toplam veri yolu genişliğini; kanal, yonga veya yığın başına bant genişliğini ve kullandığınız değerlerle formülü görürsünüz. Bir model boyutu gibi okunacak veriyi GB cinsinden girerek veriyi bir kez okuma süresini ve saniyedeki tam okuma sayısını görebilirsiniz. Burada GB, 1.000.000.000 bayt anlamına gelir.

Örnekler

Okunacak 16 GB veri ve %100 verimlilik için:

Örnek yapılandırma Formül Veriyi bir kez okuma süresi
DDR4-3200, çift kanal 3.200 MT/s × 128 bit ÷ 8 = 51,2 GB/s 312,5 ms
DDR5-6000, çift kanal 6.000 MT/s × 128 bit ÷ 8 = 96 GB/s 166,67 ms
Apple M4 Max 8.533 MT/s × 512 bit ÷ 8 = 546,11 GB/s 29,3 ms
PlayStation 5 14.000 MT/s × 256 bit ÷ 8 = 448 GB/s 35,71 ms
GeForce RTX 5090 28.000 MT/s × 512 bit ÷ 8 = 1.792 GB/s 8,93 ms
Instinct MI300X 5.200 MT/s × 8.192 bit ÷ 8 = 5.324,8 GB/s 3 ms

Özellikler

  • 14 bellek türü ve gerçek donanımlara dayanan 12 örnek yapılandırma
  • Kendi verimlilik değerinizle etkin bant genişliği hesaplama
  • Bir modeli veya veri kümesini bir kez okuma süresini hesaplama