Yapay zeka sunucu pazarının patlayıcı büyümesi teknolojiyi dönüştürüyor. Nvidia, yalnızca yapay zeka bilgi işlem hızlandırıcıları alanında pazara hakim olmakla kalmıyor, aynı zamanda tescilli NVLink ile bunun için gereken süper hızlı ağ teknolojisine de hakim.
Duyuru
Bu nedenle AMD, Broadcom, Cisco, Google, HPE, Intel, Meta ve Microsoft şirketleri artık açık Interconnect Ultra Hızlandırıcı Bağlantısı (UALink) üzerinde işbirliği yapıyor. PCIe 5.0 tabanlı Ultra Ethernet ve Compute Express Link (CXL) de rol oynuyor.
Ara bağlantı bilgi işlem hızlandırıcılarına bağlıdır
Günümüzün AI yüksek performanslı bilgi işlem hızlandırıcılarının kümeleri, eski süper bilgisayarlardan farklı şekilde ağa bağlanmıştır. Bireysel hesaplama düğümlerindeki ara bağlantı artık ana işlemcilere (CPU'lar) değil, doğrudan AI hızlandırıcılara (GPU'lar) bağlıdır. Bir yandan bunlar, tek bir bilgi işlem hızlandırıcının yerel belleğine sığmayan yapay zeka modellerini hızlı bir şekilde işleyebilmek için düğüm içinde son derece hızlı bir şekilde birleştirilir. Öte yandan birçok yapay zeka hızlandırıcının, yüksek bant genişliğine sahip, düşük gecikmeli bir anahtar aracılığıyla diğer düğümlere ulaşmak için harici bağlantıları da vardır.
Nvidia NVLink'i birkaç yıldır kullanıyor. Dört yıl önce şirket, ağ uzmanı Mellanox'u yedi milyar dolara satın aldı.
AMD AI bilgi işlem hızlandırıcılarıyla birden fazla sunucuyu ağ üzerinden bağlamak için 200G Ethernet adaptörleri CPU'ya değil ikincisine bağlanır.
(Resim: AMD)
rekabet geride kaldı
Bireysel düğümlerde ilgili AI hızlandırıcı üreticileri, AMD Infinity Fabric veya açık standart Compute Express Link (CXL) gibi tescilli süreçleri kullanır. Gelecekte Ultra Hızlandırıcı Bağlantısı, bir yapay zeka kümesinin 1024'e kadar düğümü arasında harici köprü oluşturacak.
Infiniband yıllardır kümeler için hızlı bir ara bağlantı olmuştur. Görünüşe göre geliştirme yeterince hızlı ilerlemiyor ve (hala) Infiniband donanımı üreten yalnızca birkaç şirket var.
Ethernet ile rekabet daha fazla oluyor ve kablo ve anahtar altyapısı daha esnek kullanılabiliyor. Diğer şeylerin yanı sıra Intel halihazırda 800G Ethernet adaptörleri üzerinde çalışıyor ve Broadcom da anahtar yongaları üzerinde çalışıyor. 1,6 TBit Ethernet (IEEE taslağı P802.3dj) spesifikasyonu üzerinde çalışmalar halihazırda devam etmektedir. Yüksek performanslı küme ağ iletişimi için Infiniband'a alternatif olarak Yakınsanmış Ethernet Üzerinden Uzak DMA (RoCE) gibi yöntemler mevcuttur.
2023'ün sonundan bu yana Ultra Ethernet Konsorsiyumu (UEC), Linux Vakfı'nın himayesi altında faaliyet gösteriyor. Tüm seviyelerde veri aktarımlarını hızlandırmak ve optimize etmek istiyor: fiziksel katman, bağlantı katmanı, taşıma katmanı ve yazılım katmanı.
Önümüzdeki dört ay içinde Ultra Hızlandırıcı Bağlantı Konsorsiyumu spesifikasyonun ilk versiyonunu yayınlamayı, resmi olarak kendini kurmayı ve ardından kesinlikle bir web sitesi oluşturmayı planlıyor. Şu ana kadar Computex 2024'ten birkaç gün önce yayınlanan tek bir basın bülteni var.
(chiw)
Haberin Sonu
Duyuru
Bu nedenle AMD, Broadcom, Cisco, Google, HPE, Intel, Meta ve Microsoft şirketleri artık açık Interconnect Ultra Hızlandırıcı Bağlantısı (UALink) üzerinde işbirliği yapıyor. PCIe 5.0 tabanlı Ultra Ethernet ve Compute Express Link (CXL) de rol oynuyor.
Ara bağlantı bilgi işlem hızlandırıcılarına bağlıdır
Günümüzün AI yüksek performanslı bilgi işlem hızlandırıcılarının kümeleri, eski süper bilgisayarlardan farklı şekilde ağa bağlanmıştır. Bireysel hesaplama düğümlerindeki ara bağlantı artık ana işlemcilere (CPU'lar) değil, doğrudan AI hızlandırıcılara (GPU'lar) bağlıdır. Bir yandan bunlar, tek bir bilgi işlem hızlandırıcının yerel belleğine sığmayan yapay zeka modellerini hızlı bir şekilde işleyebilmek için düğüm içinde son derece hızlı bir şekilde birleştirilir. Öte yandan birçok yapay zeka hızlandırıcının, yüksek bant genişliğine sahip, düşük gecikmeli bir anahtar aracılığıyla diğer düğümlere ulaşmak için harici bağlantıları da vardır.
Nvidia NVLink'i birkaç yıldır kullanıyor. Dört yıl önce şirket, ağ uzmanı Mellanox'u yedi milyar dolara satın aldı.
AMD AI bilgi işlem hızlandırıcılarıyla birden fazla sunucuyu ağ üzerinden bağlamak için 200G Ethernet adaptörleri CPU'ya değil ikincisine bağlanır.
(Resim: AMD)
rekabet geride kaldı
Bireysel düğümlerde ilgili AI hızlandırıcı üreticileri, AMD Infinity Fabric veya açık standart Compute Express Link (CXL) gibi tescilli süreçleri kullanır. Gelecekte Ultra Hızlandırıcı Bağlantısı, bir yapay zeka kümesinin 1024'e kadar düğümü arasında harici köprü oluşturacak.
Infiniband yıllardır kümeler için hızlı bir ara bağlantı olmuştur. Görünüşe göre geliştirme yeterince hızlı ilerlemiyor ve (hala) Infiniband donanımı üreten yalnızca birkaç şirket var.
Ethernet ile rekabet daha fazla oluyor ve kablo ve anahtar altyapısı daha esnek kullanılabiliyor. Diğer şeylerin yanı sıra Intel halihazırda 800G Ethernet adaptörleri üzerinde çalışıyor ve Broadcom da anahtar yongaları üzerinde çalışıyor. 1,6 TBit Ethernet (IEEE taslağı P802.3dj) spesifikasyonu üzerinde çalışmalar halihazırda devam etmektedir. Yüksek performanslı küme ağ iletişimi için Infiniband'a alternatif olarak Yakınsanmış Ethernet Üzerinden Uzak DMA (RoCE) gibi yöntemler mevcuttur.
2023'ün sonundan bu yana Ultra Ethernet Konsorsiyumu (UEC), Linux Vakfı'nın himayesi altında faaliyet gösteriyor. Tüm seviyelerde veri aktarımlarını hızlandırmak ve optimize etmek istiyor: fiziksel katman, bağlantı katmanı, taşıma katmanı ve yazılım katmanı.
Önümüzdeki dört ay içinde Ultra Hızlandırıcı Bağlantı Konsorsiyumu spesifikasyonun ilk versiyonunu yayınlamayı, resmi olarak kendini kurmayı ve ardından kesinlikle bir web sitesi oluşturmayı planlıyor. Şu ana kadar Computex 2024'ten birkaç gün önce yayınlanan tek bir basın bülteni var.
(chiw)
Haberin Sonu