Güvenilir AI: Aleph Alpha, olgu kontrolünü modellerine entegre eder
Gerçekte yanlış olan makul görünen ifadelerin halüsinasyonları ve uydurmaları, büyük AI dil modellerinin temel eksiklikleri olarak kabul edilir. Bunları, doğru bilgilerin ve güvenlik açısından kritik bilgilerin hem önemli hem de zor olduğu alanlarda kullanırlar. Heidelberg AI girişimi Aleph Alpha, kendi açıklamalarına göre içeriği doğru, açıklanabilir ve güvenilir yapay zeka (AI) yolunda ilk kez bir kilometre taşına ulaştı.
Şirket Perşembe günü yaptığı açıklamaya göre, Luminous’un dahili dil modelinin şu anda mevcut olan bir uzantısı, bilgideki bağlantıları ve belirli gerçeklere dayalı olgusal doğruluğu anlayabiliyor. Aynı zamanda sistem, bir kaynaktaki hangi metin pasajlarının üretilen cevaba neden olduğunu veya hangilerinin bununla çeliştiğini gösterebilmektedir.
Açıklanabilirlik, AI bilgilerinin şeffaflığını sağlamalıdır
Aleph Alpha tarafından sağlanan bilgiler bağımsız testler tarafından doğrulansaydı, Heidelberg şirketi ChatGPT gibi metin makinelerinde sistematik bir zayıflığı hafifletmek için bir adım daha ileri giderdi. Şimdiye kadar, ChatGPT gibi yapay zeka sistemlerinin belirli yanıtları nasıl ve neden sağladığı genellikle net değildi. Yanıtları doğrulamak, ek kullanıcı araştırmasının yanı sıra kişinin uzman bilgisinin ötesinde güvenilir bilgilerden şüphe duyma becerisi gerektirir. Kural olarak, modeller kaynaklarına atıfta bulunamaz veya sağlanan bilgilerdeki belirsizlik derecelerini gösteremez. Kullanıcılar, büyük dil modellerinin (LLM’ler) genellikle yanlış bilgiler verdiğinden şikayet ederler. Açıklanabilir yapay zeka (kısaca XAI) konusu, yapay zekayı daha şeffaf hale getirmek isteyen araştırma ekiplerini uzun süredir meşgul ediyor. Yeni tanıtılan özellik, 2023’ün başlarında TU Darmstadt ve DFKI ile işbirliği içinde AtMan adı altında akademik olarak yayınlanan Aleph Alpha’nın en son araştırmasına dayanmaktadır.
AtMan, burada sunulan “dikkat manipülasyonu” yöntemini, yani transformatör modellerinde dikkati kontrol etmeyi ifade eder. Bu ad aynı zamanda Google Research’ün trafo modellerinin ilk kez halka sunulduğu ufuk açıcı araştırma çalışmasına bir gönderme olabilir (“Attention is all you need”, NeurIPS 2017 konferansının dersi ve makalesi). serbest bırakılmasıyla ilgili bir tweet AtMan uluslararası ilgi gördü AI güvenlik araştırmacıları arasında ve AtMan makalesi, diğerlerinin yanı sıra Timnit Gebru’nun DAIR araştırma enstitüsü tarafından daha geniş bir kitleye sunuldu.
Hukuk, sağlık, bankalar: artan güvenlik gereksinimleri
Şirketin kurucusu ve CEO’su Jonas Andrulis, yapay zeka tarafından üretilen içeriğin şeffaflığı ve izlenebilirliği “hukuk, sağlık ve bankacılık sektörlerindeki kritik görevler için üretken yapay zekanın kullanılmasını sağlayacak” dedi. Aleph Alpha, AI projesi ile Alman yazılım endüstrisinde bir umut ışığı olarak görülüyor. Ana ABD rakipleri OpenAI, Microsoft ve Google’ın aksine, Baden-Württemberg şirketi özel nihai müşteriler için tasarlanmamıştır, ancak modelini esas olarak ortak şirketler ve işbirlikleri aracılığıyla sunmaktadır. Luminous’a dolaylı olarak Aleph Alpha müşterileri aracılığıyla, örneğin Heidelberg şehrinin halka açık bilgi sistemi Lumi aracılığıyla veya LanguageTool.org gibi ortakların teklifleri aracılığıyla ulaşılabilir.
Luminous, saf bir dil modeli değildir, ancak sözcüklerdeki ve resimlerdeki çok modlu girdileri herhangi bir kombinasyonda işler. Aleph Alpha’ya göre yeni özellik, kısa bir demo ile gösterildiği gibi, resim içeriğinin açıklanması için de geçerli:
Yaklaşan AB Yapay Zeka Yasası düzenlemeleri öncesinde, yapay zeka sistemlerinin kullanıcıları ve geliştiricileri daha katı gereksinimlere tabi olacaktır. Proje henüz tamamlanmamış olsa da, AB’de yapay zeka için oyunun gelecekteki kurallarının şeffaflığa, açıklanabilirliğe ve veri korumaya değer vereceği şimdiden belli: yasa koyucuya göre, üretken yapay zeka sistemleri gelecekte daha katı yapay zekaya tabi olacak. Güvenlik gereksinimleri. Aksi takdirde, AI kullanımının kritik olmayan ve eğlenceli alanlarla sınırlandırılması gerekecektir.
ayrıca oku
Daha fazla göster
daha az göster
Daha fazla bilgi için
Daha derine inmek istiyorsanız, AtMan araştırma makalesini arXiv.org’da bulabilirsiniz (“AtMan: Transformer Predictions Through Memory-Efficient Attention Manipulation”). Bu bağlamda başka bir not ilginçtir: Stephen Wolfram ve ekibi tarafından ChatGPT için oluşturulan bir eklenti, OpenAI’nin kronik olarak sanrılı yapay zeka sisteminin gerçekten daha doğru bilgiler sunmasını, doğru hesaplamalar yapmasını ve düşünmek için İnternet’teki mevcut verileri kullanmasını sağlıyor. Örüntü tanıma kurallarına (GPT-4 veya Luminous gibi) göre metinleri tamamlamak için eğitilmiş istatistiksel AI sistemleri de görünüşe göre fayda sağlayabilir. Sembolik yaklaşımların entegrasyonu (Wolfram’ın matematik ve bilim odaklı yapay zeka modeli gibi). Bununla ilgili daha fazla bilgiyi Stephen Wolfram’ın bir blog gönderisinde bulabilirsiniz. Hangi yaklaşımların galip geleceğini ve gelecekteki uygulamaları şekillendireceğini görmek heyecan verici olmaya devam ediyor.
Luminous şablon ailesini denemek isteyen herkes, Aleph Alpha web sitesinde bir test hesabı oluşturabilir – yeni “AtMan ve Açıkla” özelliği, oyun alanında test edilebilir. Bir arayüz (API) aracılığıyla veya oyun alanındaki etkileşimli kullanıcı arayüzü aracılığıyla kullanılabilir. Kayıttan sonra, denemek için bir ücretsiz kredi mevcuttur, start-up’lar ve bilimsel kurumlar ek ücretsiz krediler için başvurabilirler. Şirketin belirttiği gibi, kullanıcı verileri oyun alanında saklanmaz veya işlenmez ve Aleph Alpha’nın Bavyera’da kendi veri merkezi bile vardır.
(onun)
Haberin Sonu