Pek çok büyük sistem üreticisinin Nvidia ile kapsamlı işbirliklerini duyurmasının ardından HPE, en son müşteri etkinliği Discover'da şimdi de AI çip lideri ile kapsamlı bir işbirliğini duyurdu. HPE'den Nvidia AI Computing adı altında, yapay zeka altyapılarının inşasını ve işletimini daha kolay ve hızlı hale getirmeyi amaçlayan koordineli donanım ve yazılımdan oluşan eksiksiz bir paket sunuldu: bir tür hiper bütünleşik yapay zeka altyapısı. Ortak teklif bir yapay zeka yığını olarak pazarlanıyor.
Duyuru
Nvidia CEO'su Jensen Huang açılış konuşmasında yaklaşımını şöyle açıkladı: “Yapay zeka esas olarak üç bölümden oluşuyor: model, bilgi işlem teknolojisi ve veriler. İkincisi en önemlisi çünkü bir şirketin öne çıkmasının tek yolu bu. rekabet. ” Ancak yapay zeka için sorun olan tam olarak veri alanıdır ve yalnızca bir modele ince ayar yapmak için gereken veri miktarı değil, aynı zamanda her şeyden önce tüm veri koruma düzenlemelerinin kalitesi ve bunlara uyulması da önemlidir.
Yığının her bir alanı için farklı bileşenler kullanılır. Model yığını esasen, önceden seçilmiş halka açık LLM'lerin entegre edilebildiği ve özelleştirilebildiği bir API platformundan oluşur. Yüksek Lisans'ları yönetmek için Nvidia çıkarım mikro hizmeti mevcuttur. Nvidia'nın NIM'sini de içeren veri alanı için Nvidia'nın AI Enterprise'ı kullanılıyor. Huang'a göre bu, vektörleştirme, anlamsal yerleştirme ve veri alımı için kullanılıyor. Huang bu konuda şunları söyledi: “AI Enterprise, üretim düzeyindeki Copilot ve diğer GenAI uygulamalarının geliştirilmesini ve devreye alınmasını hızlandırıyor ve optimize ediyor; optimize edilmiş AI modeli çıkarımı için kullanımı kolay mikro hizmetler sağlayarak prototipten güvenli üretim ortamına sorunsuz bir geçiş sağlıyor” dedi. . bileşen.
HPE, AI Essentials yazılımını kullanır. Tüm yapay zeka süreçlerinin veri korumayla uyumlu ve şeffaf olmasını sağlamak için kontrol ve yönetim işlevlerini içerir. İşlem alanı HPE Greenlake dosya depolamayı ve Nvidia L40S GPU, Nvidia H100 NVL Tensor Core ve Nvidia GH200-NVL2 platformunu destekleyen ProLiant sunucularını temel alıyor. Nvidia'nın Spectrum-X Ethernet'i ağ iletişimi için de kullanılıyor. Bunların tümü şirket içi özel bir bulutta kurulabilir ancak düzenleme Greenlake bulutuna bağlantı gerektirir. Bu durumda HPE, yöneticilerin yapay zeka yığınının tüm bileşenlerini ve uç cihazlarını yönetip izleyebileceği bir kontrol düzlemi sağlar. Ayrıca çabalarını azaltacak otomasyon araçları da vardır.
Peki HPE birçok rakip arasından nasıl öne çıkmak istiyor? Gartner analistlerinden Julia Palmer şunları söylüyor: “HPE'nin Nvidia AI Computing'i, tüm bileşenleri tek bir yönetim şemsiyesi altında toplayan entegre, koordineli bir teknoloji yığınıdır, zorlu AI iş yükleri ve entegrasyonla ilgili tüm konular göz önüne alındığında bu kolay değildir.” Ayrıca HPE iş ortakları Deloitte, HCLTech, Infosys, TCS ve WIPRO, özel yapay zeka uygulamaları geliştirmek için yeni yapay zeka yığınını kullanacaklarını zaten duyurdular. İşbirliği ve ürünler hakkında daha fazla bilgiyi duyuruda bulabilirsiniz.
HPE ve Aleph Alpha: ilk büyük sipariş
Ayrıca Discover'da HPE'nin Aleph Alpha ile işbirliği ve Luminous modeli hakkında bir yıl önce duyurulan bir güncelleme vardı. Ulusal güvenlik için hayati öneme sahip belgelerin analizini, birleştirilmesini ve oluşturulmasını içeren üretken yapay zekanın uygulanması için bir ABD federal kurumuyla büyük bir sözleşme yapıldı. CEO ve kurucu Jonas Andrulis, “Bu gereksinimleri desteklemek için, kurumun eğitim, optimizasyon ve kendi belgelerine ve veritabanlarına dayalı çıkarımlar için kullandığı, HPE süper bilgi işlem ve yapay zeka teknolojisine dayalı, şirket içi özel bir LLM ortamı uyguladık” diyor. Aleph Alpha'nın bu projede yer alması. Andrulis, “Bu şekilde ajans, hassas verileri tamamen gizli tutarken Luminous modelinin ortak özelliklerinden yararlanıyor” diye devam etti. Analistler ayrıca HPE Aleph Alpha teklifini özellikle enerji verimliliği açısından övüyor. Heidelberg programını öven Futurum Group'tan Mark Beccue, “Korkunç bilgi işlem maliyetleri, GenAI'yi kullanmak isteyen her şirket için büyük bir sorundur. HPE, Aleph Alpha ile doğası gereği diğer birçok modelden daha verimli olan bir LLM seçmiştir” diyor. .
(fo)
Duyuru
Nvidia CEO'su Jensen Huang açılış konuşmasında yaklaşımını şöyle açıkladı: “Yapay zeka esas olarak üç bölümden oluşuyor: model, bilgi işlem teknolojisi ve veriler. İkincisi en önemlisi çünkü bir şirketin öne çıkmasının tek yolu bu. rekabet. ” Ancak yapay zeka için sorun olan tam olarak veri alanıdır ve yalnızca bir modele ince ayar yapmak için gereken veri miktarı değil, aynı zamanda her şeyden önce tüm veri koruma düzenlemelerinin kalitesi ve bunlara uyulması da önemlidir.
Yığının her bir alanı için farklı bileşenler kullanılır. Model yığını esasen, önceden seçilmiş halka açık LLM'lerin entegre edilebildiği ve özelleştirilebildiği bir API platformundan oluşur. Yüksek Lisans'ları yönetmek için Nvidia çıkarım mikro hizmeti mevcuttur. Nvidia'nın NIM'sini de içeren veri alanı için Nvidia'nın AI Enterprise'ı kullanılıyor. Huang'a göre bu, vektörleştirme, anlamsal yerleştirme ve veri alımı için kullanılıyor. Huang bu konuda şunları söyledi: “AI Enterprise, üretim düzeyindeki Copilot ve diğer GenAI uygulamalarının geliştirilmesini ve devreye alınmasını hızlandırıyor ve optimize ediyor; optimize edilmiş AI modeli çıkarımı için kullanımı kolay mikro hizmetler sağlayarak prototipten güvenli üretim ortamına sorunsuz bir geçiş sağlıyor” dedi. . bileşen.
HPE, AI Essentials yazılımını kullanır. Tüm yapay zeka süreçlerinin veri korumayla uyumlu ve şeffaf olmasını sağlamak için kontrol ve yönetim işlevlerini içerir. İşlem alanı HPE Greenlake dosya depolamayı ve Nvidia L40S GPU, Nvidia H100 NVL Tensor Core ve Nvidia GH200-NVL2 platformunu destekleyen ProLiant sunucularını temel alıyor. Nvidia'nın Spectrum-X Ethernet'i ağ iletişimi için de kullanılıyor. Bunların tümü şirket içi özel bir bulutta kurulabilir ancak düzenleme Greenlake bulutuna bağlantı gerektirir. Bu durumda HPE, yöneticilerin yapay zeka yığınının tüm bileşenlerini ve uç cihazlarını yönetip izleyebileceği bir kontrol düzlemi sağlar. Ayrıca çabalarını azaltacak otomasyon araçları da vardır.
Peki HPE birçok rakip arasından nasıl öne çıkmak istiyor? Gartner analistlerinden Julia Palmer şunları söylüyor: “HPE'nin Nvidia AI Computing'i, tüm bileşenleri tek bir yönetim şemsiyesi altında toplayan entegre, koordineli bir teknoloji yığınıdır, zorlu AI iş yükleri ve entegrasyonla ilgili tüm konular göz önüne alındığında bu kolay değildir.” Ayrıca HPE iş ortakları Deloitte, HCLTech, Infosys, TCS ve WIPRO, özel yapay zeka uygulamaları geliştirmek için yeni yapay zeka yığınını kullanacaklarını zaten duyurdular. İşbirliği ve ürünler hakkında daha fazla bilgiyi duyuruda bulabilirsiniz.
HPE ve Aleph Alpha: ilk büyük sipariş
Ayrıca Discover'da HPE'nin Aleph Alpha ile işbirliği ve Luminous modeli hakkında bir yıl önce duyurulan bir güncelleme vardı. Ulusal güvenlik için hayati öneme sahip belgelerin analizini, birleştirilmesini ve oluşturulmasını içeren üretken yapay zekanın uygulanması için bir ABD federal kurumuyla büyük bir sözleşme yapıldı. CEO ve kurucu Jonas Andrulis, “Bu gereksinimleri desteklemek için, kurumun eğitim, optimizasyon ve kendi belgelerine ve veritabanlarına dayalı çıkarımlar için kullandığı, HPE süper bilgi işlem ve yapay zeka teknolojisine dayalı, şirket içi özel bir LLM ortamı uyguladık” diyor. Aleph Alpha'nın bu projede yer alması. Andrulis, “Bu şekilde ajans, hassas verileri tamamen gizli tutarken Luminous modelinin ortak özelliklerinden yararlanıyor” diye devam etti. Analistler ayrıca HPE Aleph Alpha teklifini özellikle enerji verimliliği açısından övüyor. Heidelberg programını öven Futurum Group'tan Mark Beccue, “Korkunç bilgi işlem maliyetleri, GenAI'yi kullanmak isteyen her şirket için büyük bir sorundur. HPE, Aleph Alpha ile doğası gereği diğer birçok modelden daha verimli olan bir LLM seçmiştir” diyor. .
(fo)