15.000 watt: AI hızlandırıcı elektrik susaması hızla artmaya devam ediyor
Yakın bildirim
Bu makale bu nedenle İngilizce olarak mevcuttur. Yayınlamadan önce teknik yardım ve editoryal revizyon ile çevrildi.
Bir daha gösterme.
Yaklaşık on yıl, AI hızlandırıcılarının 15.000 watt'a kadar ısınması muhtemeldir. Kore Enstitüsü Kaistinin Terabayt Arabağlantı ve Laboratuvar Paketinin (Teralab) araştırmacılarının beklediği şey budur.
Bu 15 kW'tan neredeyse 10 kW, her biri 1.2 kW'lık yutan AI işlemcisinin sekiz çiplerine atlanacaktır. Kalan 5 kW, her biri 80 gigabit ile 24 tek DRAM kalıbından oluşan 32 bellek yonga pil gerektirir. Bu yüksek nesil bant genişliği belleği (HBM7), saniyede yaklaşık 1 petabayte (pbyte/s) veri aktarım hızı ile toplam 6 TB KI bellek sağlamayı amaçlamaktadır.
Özel bir çözüm olarak, enerji tüketimi yaklaşık 15 kW, yani serebradan gofret ölçekli motorlara sahip yapay zeka hızlandırıcıları var. Bununla birlikte, bunlar temelde Nvidia, AMD ve diğer şirketlerde en yaygın olanların hızlandırıcılarından farklı bir şekilde yapılandırılmıştır.
Kaist Teralab'ın mevcut yol haritası HBM, gelecekteki yapay zeka hızlandırıcılarının ortaya çıkmasını doğru bir şekilde sağlamak istemiyor. Aksine, böyle bir seyahat tablosu öngörülebilir teknik görevleri ve potansiyel çözümleri temsil eder. Bu anlamda, HBM yol haritası, DRAM verilerinin aktarım yeteneğinin ve hızının nasıl gelişeceğinin, hangi yeni çip ambalajlama tekniklerinin geleceği ve kombinasyon için hangi enerji tüketiminin beklendiğinin bir değerlendirmesidir.
Bundan, araştırmacılar hangi soğutma yöntemlerine ihtiyaç duyulduğunu elde ederler. Bazıları son zamanlarda istenen paketin yoğunluğuna ulaşmak için geliştirilmelidir.
Gelecekteki yapay zeka hızlandırıcıları sekiz mantıksal yonga ve 32 HBM pilden oluşabilir.
(Resim: Kaist Teralab)
Chiplet Bulmacalar
Kaist Teralab araştırmacıları, hızlandırıcılar için NVIDIA yol haritasını bir temel olarak alıyorlar. NVIDIA zaten bitişik sistemler için litografik sistemler görüntüleyebilen tek bir çip için neredeyse maksimum boyutu kullanıyor. Uzmanlar, muhtemelen üst düzey ELE-EU-EU-EU-EU üzerindeki kısıtlamalar için bu “Revile sınırının” gelecekte biraz azalmasını bekliyorlar.
Gelecek nesiller yapay zeka hızlandırıcılarında, Nvidia artık iki GPU yongası (2025: Blackwell/B200, 2026: Rubin/R200), bu nedenle 2028/2029'dan (Feynman, F400) dört ve on yıl (2035) için belki de sekizden.
GPU Chiplet için enerji tüketimi bu dönemde 800'den 1200 watt'a yükselir.
HBM planı
Kaist Teralab, HBM8'e HBM4 HBM4 nesillerinin beklenen özelliklerini gösterir.
(Resim: Kaist Teralab)
Yeterli her veri Chiplet GPU Chiplet'i sağlamak için HBM'nin yeteneği ve hızı artmalıdır. Bu, HBM2 ve HBM3 aracılığıyla HBM tarafından mevcut HBM3E'ye farklı kümeler kümeleri aracılığıyla elde edildi: yongalar için daha fazla kapasite ve daha düzgün düzgünleştirilmesi gereken daha fazla yığın yığını. Ve daha yüksek saat frekansları, bu da enerji tüketimini kontrol altında tutmak için güç ve veri sinyalinin voltajını azaltmalıdır. Sinyal işleme talepleri, giderek daha kısa döngü döngülerine rağmen, giderek daha fazla yonga bir hatta asılsa bile artmaktadır.
HBM4 ayrıca 1024 ila 2048 arasındaki yığınlar için veri işareti satırlarının sayısını iki katına çıkaracak. Bu, GPU yongalarındaki bellek denetleyicilerinde, GPU yongaları için bağlantı sayısında ve yongaların monte edildiği ve bağlantı hatlarının çalıştığı silikon interposer'larında değişiklikler gerektirir.
Buna ek olarak, GPU için daha fazla HBM yığınları var, kısa süre sonra sekiz ve daha sonra 16 veya 32 yerine.
Sıcak Yığınlar
Kaist Teralab'a göre, bugünün 24 gigabit yongası (yani 24 veya 36 GB kapasitesi) sekiz veya on iki katmanına sahip bir HBM3E yığını 32 watt'a kadar ısıya dönüşüyor. Aynı kapasiteye sahip HBM4 ile, ancak çift hız zaten 43 watt, ayrıca 48 GB için 75 watt olmalıdır.
Paketin yoğunluğuna ek olarak, istifleme yöntemleri de ısı egzozunu iyileştirmelidir.
Kaist Teralab'ın uzmanları, YouTube'daki HBM yol haritanızın 1.7 sürümünü sunacak ve Google Drive'daki yol haritasının bir PDF sürümü de var.
(CIW)
Ne yazık ki, bu bağlantı artık geçerli değil.
Boşa harcanan eşyalara olan bağlantılar, 7 günlük daha büyükse veya çok sık çağrılmışsa gerçekleşmez.
Bu makaleyi okumak için bir Haberler+ paketine ihtiyacınız var. Şimdi yükümlülük olmadan bir hafta deneyin – yükümlülük olmadan!