AI Chip: Google, Trillium TPU'ları buluta getiriyor

Adanali

Member
Google Cloud müşterileri artık altıncı nesil Trillium TPU'yu kullanabilir. V6e olarak da bilinen çip, eğitimde ve yapay zekanın sağlanmasında kullanılıyor. Google, önceki nesil çiplere göre daha yüksek performans, bant genişliği ve güç verimliliği vaat ediyor. Şirket, çipin üretimini ilkbaharda zaten duyurmuştu ve o zamandan beri bunu, şu anda deneysel bir versiyon olarak mevcut olan dahili Gemini AI modelinin ikinci yinelemesinin geliştirilmesinde kullandı.


Duyuru



Trillium dört kat daha fazla bilgi işlem gücü sunuyor


V5e çipinde olduğu gibi, Trillium TPU'lar müşterilerin transformatörleri, metinden görüntüye oluşturucuları ve evrişimli sinir ağlarını eğitmesine, ayarlamasına ve dağıtmasına olanak tanır. Önceki modelle karşılaştırıldığında Trillium TPU'nun performans verileri, AI modeli eğitim performansının dört katı ve çıkarım veriminin üç katı olmalıdır. Aynı zamanda Google, v6e hızlandırıcıların enerji açısından %67 daha verimli olduğunu duyuruyor.

Google, Trillium hızlandırıcıları için 16 bitlik kayan noktalı sayıların bilgi işlem gücünü 918 teraflop olarak belirlerken, v5e çipleri 197 teraflop'a ulaşıyor. 256 çipli bir v6e kapsülü yaklaşık 235 petaflop hızında geliyor. 8 bitlik tam sayı hesaplamalarında değerler iki kat daha yüksektir. 32 gigabayt kapasite ve saniyede 1,6 terabit bant genişliği ile Google, yüksek bant genişliğine sahip bellek değerlerini ikiye katladı. Her Trillium çipinde iki matris çarpım birimi (MXU), bir vektör ve bir skaler birimden oluşan bir Tensör Çekirdeği bulunur. V5e çipinin Tensör Çekirdekleri dört MXU içerir.

Trillium bulut sunucuları öncüllerine göre iki kat daha pahalıdır


Google, Avrupa'da Amsterdam veri merkezinde Trillium örnekleri sunmaktadır. Talep üzerine bir saatlik çipin maliyeti 2,97 dolardır. Bir yıllık garantili kullanımda fiyatı 2,08 ABD doları, üç yıllık kullanımda ise 1,34 ABD dolarıdır. V5e öncülüne sahip bulut sunucularının maliyeti yaklaşık yarısı kadardır. Dinamik fiyatlandırma Spot VM'ler için geçerlidir. Trillium örneklerinin diğer yerleri şu anda Güney Carolina, Ohio ve Tokyo'yu içermektedir.




(sfe)
 
Üst