Salesforce: Yapay zeka dil modellerini sorumlu bir şekilde kullanın
CRM ve web pazarlama yazılımı sağlayıcısı Salesforce, şirketlerin bunları müşteri verileriyle güvenli bir şekilde yönetebilmesi için AI dil modellerinin (Büyük Dil Modelleri, LLM’ler) kullanımını tasarlamak istiyor. Bu amaçla şirket, yapay zeka modellerini sorumlu bir şekilde kullanmayı amaçlayan yönergeler oluşturuyor ve yazılımlar geliştiriyor.
Duyuru
Salesforce CEO’su Marc Benioff, San Francisco’daki Dreamforce 2023 dahili konferansında “Einstein Güven Katmanı”nı sundu. Bir yıl süren vahşi Vahşi Batı atmosferinin ardından Salesforce, ChatGPT & Co’nun bazen dengesiz davranışlarının nasıl kontrol altına alınabileceğini gösteriyor.
LLM’yi kullanmanın beş ilkesi
Salesforce, yapay zekayı (AI) yönetmek için beş ilke formüle etti. Buna göre, bir Yüksek Lisans diplomasının verilmesi öncelikle temelde adil olmalı ve ikinci olarak kızgınlık ve önyargıdan arınmış olmalıdır. Yapay zeka modelinin aynı zamanda verinin sahibi olan kullanıcıların izniyle kullanılması gerekiyor. Şüpheye düştüğünüzde, bir insanın muhakemesi yapay zekanınkinden daha önemlidir.
Salesforce sürdürülebilirliği beşinci prensibi olarak formüle ediyor. Bu, örneğin daha düşük güç gereksinimine sahip daha küçük bir modelin kullanılmasının, belirli bir görev için yeterli olması durumunda önceliğe sahip olduğu anlamına gelir.
“Verileriniz bizim ürünümüz değil.”
Salesforce’un güvenlik mimarisinin temel ilkesi, kişisel verilerin yazılımı kullanan şirketten ayrılamamasıdır. CRM satıcısı “Verileriniz bizim ürünümüz değil” diye onaylıyor.
Bir LLM’nin kişisel verilere erişimi olsaydı, en azından bundan ders alır, yani son kullanıcıların zararına daha akıllı hale gelirdi. Örneğin en kötü senaryoda, bir çevrimiçi mağazanın kullanıcılarının kredi kartı verileri ifşa edilecektir.
İstem herhangi bir veri almıyor
Salesforce’un Einstein Güven Katmanı, ister dahili ister harici olarak barındırılıyor olsun, Salesforce yazılımında LLM’leri güvenli bir şekilde dağıtmak için çeşitli bileşenler uygular. Şirket başlangıçta “Paylaşılan Güven Sınırı”nın bir parçası olarak kişisel verileri asla Salesforce dışında saklamayacağına söz veriyor. Yazılım bir LLM’ye istek göndermeden önce, bir “veri maskeleme” katmanının aynı zamanda son müşteri hakkındaki önemli bilgileri filtrelemesi ve maskelemesi gerekir. Kredi kartı bilgileri gibi hassas veriler LLM ile paylaşılmaz.
Ek olarak, Einstein Güven Katmanı, bir Yüksek Lisans’ın suistimallerine karşı koruma sağlamayı amaçlamaktadır. Daha ileri bir seviyede, örneğin yapay zekanın yanlış bilgi halüsinasyonu gösterip göstermediği veya ayrımcı görüşler üretip üretmediği kontrol edilecek. Kendi açıklamalarına göre operatör, potansiyel olarak kötü amaçlı içerik açısından hem istemi hem de LLM çıktısını kontrol eder; Bu durumda bunların ayrımcı veya önyargılı olduğu kabul edilir.
(akr)
Haberin Sonu