Duyuru
Cisco, Yapay Zeka Savunması ile yapay zeka sistemlerini saldırılara ve kötüye kullanıma karşı korumanın yanı sıra yapay zeka modellerinin davranışlarını da korumak istiyor. AI Defense, şirketlerin yapay zeka uygulamalarını mümkün olduğunca güvenilir bir şekilde geliştirip dağıtmasına ve bunları güvenli bir şekilde yönetmesine olanak sağlamak için özel olarak geliştirildi. Üreticiye göre yazılımın ağ yapısına entegre edilmesi ve yapay zeka uygulamaları geliştirilirken ve bunlara erişilirken tehditleri tespit edip püskürtmesi gerekiyor. Cisco'nun ürün, yazılım ve yapay zeka platformundan sorumlu başkan yardımcısı DJ Sampath, “çok modelli, çok bulutlu bir dünyada yaşadığımızın” bir gerçek olduğunu söyledi. Bu nedenle AI Defense, kullanılan yapay zeka modelinden bağımsız olmalı ve veri işleme konumundan bağımsız olarak uygulanabilir olmalıdır.
Cisco, artan model ve konum çeşitliliğini, özellikle üçüncü taraf modellerde “kamuya açık olmayan verilerle” eğitim verildiğinde büyük bir güvenlik sorunu olarak görüyor. AI Defense, AI'nın geliştirilmesi ve uygulanması için uygun yönergeler oluşturmayı amaçlamaktadır. Cisco'nun Yapay Zeka Hazırlık Endeksi'ne göre, katılımcıların yalnızca %29'u yapay zeka kullanılarak yapılan yetkisiz manipülasyonları tespit etmek ve önlemek için tam donanımlı hissediyor. Bu amaçla AI Defense, AI saldırılarına karşı koruma sağlamayı ve tüm platformlarda model davranışını korumayı hedefliyor. Yazılımın, genel ve özel bulutlarda gölge yapay zeka olarak yetkilendirilen veya kullanılan uygulamaları bir dizi kural kullanarak engellemesi ve belirli yapay zeka uygulamalarına erişimi koruyarak veri sızıntılarını önlemesi amaçlanıyor.
Diğer tehdit senaryoları
AI Defense, otomatik doğrulama testleriyle AI modellerini yüzlerce potansiyel güvenlik riskine karşı kontrol eder. Bu yapay zeka odaklı algoritma incelemesinin amacı, güvenlik açıklarını tespit etmek ve güvenlik ekiplerine öneriler sunmaktır. Yapay zeka uygulamalarının yürütülmesi sırasında sürekli doğrulamanın amacı, zamanında enjeksiyonları, hizmet reddi saldırılarını ve hassas verilere erişimi önlemektir.
AI Defense'in, modellerde halihazırda yerleşik olan kısıtlamalara paralel olarak genel bir güvenlik düzeyi uygulaması ve böylece kullanılan modelden bağımsız olarak tutarlı AI güvenlik yönergelerini sürdürmesi amaçlanıyor. Yazılım, bunu yapmak için Splunk'tan (2023'te Cisco tarafından satın alındı) ve Cisco Talos'tan gelen verilere dayanarak değişikliklere uyum sağlamak için makine öğrenimini kullanıyor. Güvenlik mekanizmaları yalnızca yapay zeka bileşenleri içeren uygulamalar için de geçerli olmalıdır.
Kontrol paneline genel bakış (Resim:
Cisco
)
AI Defense ile Cisco'nun yapay zekaya yaptığı milyar dolarlık yatırımlar, ağ işinin yakın zamanda baskı altına girmesinin ardından meyvesini veriyor. Yapay zekanın genel olarak artan kullanımı ek tehdit senaryoları yaratıyor ve birçoğu veri koruma ve bilgi güvenliği endişeleri nedeniyle yapay zeka ürünlerini kullanmaktan ve geliştirmekten kaçınıyor. Yapay Zeka uygulamalarını geliştirirken ve kullanırken bu zorluğa karşı kapsamlı koruma sunmayı amaçlayan Yapay Zeka Savunması tam da burada devreye giriyor. Yazılımın yapay zeka araçlarının kötüye kullanılmasına ve bunların içerdiği verilerin sızmasına karşı koruma sağlaması amaçlanıyor. AI Defense, Cisco'nun Armorblox ve Robust Intelligence'ı satın alması üzerine geliştirildi ve Mart ayında piyasaya sürülmesi bekleniyor.
(Sen)
Cisco, Yapay Zeka Savunması ile yapay zeka sistemlerini saldırılara ve kötüye kullanıma karşı korumanın yanı sıra yapay zeka modellerinin davranışlarını da korumak istiyor. AI Defense, şirketlerin yapay zeka uygulamalarını mümkün olduğunca güvenilir bir şekilde geliştirip dağıtmasına ve bunları güvenli bir şekilde yönetmesine olanak sağlamak için özel olarak geliştirildi. Üreticiye göre yazılımın ağ yapısına entegre edilmesi ve yapay zeka uygulamaları geliştirilirken ve bunlara erişilirken tehditleri tespit edip püskürtmesi gerekiyor. Cisco'nun ürün, yazılım ve yapay zeka platformundan sorumlu başkan yardımcısı DJ Sampath, “çok modelli, çok bulutlu bir dünyada yaşadığımızın” bir gerçek olduğunu söyledi. Bu nedenle AI Defense, kullanılan yapay zeka modelinden bağımsız olmalı ve veri işleme konumundan bağımsız olarak uygulanabilir olmalıdır.
Cisco, artan model ve konum çeşitliliğini, özellikle üçüncü taraf modellerde “kamuya açık olmayan verilerle” eğitim verildiğinde büyük bir güvenlik sorunu olarak görüyor. AI Defense, AI'nın geliştirilmesi ve uygulanması için uygun yönergeler oluşturmayı amaçlamaktadır. Cisco'nun Yapay Zeka Hazırlık Endeksi'ne göre, katılımcıların yalnızca %29'u yapay zeka kullanılarak yapılan yetkisiz manipülasyonları tespit etmek ve önlemek için tam donanımlı hissediyor. Bu amaçla AI Defense, AI saldırılarına karşı koruma sağlamayı ve tüm platformlarda model davranışını korumayı hedefliyor. Yazılımın, genel ve özel bulutlarda gölge yapay zeka olarak yetkilendirilen veya kullanılan uygulamaları bir dizi kural kullanarak engellemesi ve belirli yapay zeka uygulamalarına erişimi koruyarak veri sızıntılarını önlemesi amaçlanıyor.
Diğer tehdit senaryoları
AI Defense, otomatik doğrulama testleriyle AI modellerini yüzlerce potansiyel güvenlik riskine karşı kontrol eder. Bu yapay zeka odaklı algoritma incelemesinin amacı, güvenlik açıklarını tespit etmek ve güvenlik ekiplerine öneriler sunmaktır. Yapay zeka uygulamalarının yürütülmesi sırasında sürekli doğrulamanın amacı, zamanında enjeksiyonları, hizmet reddi saldırılarını ve hassas verilere erişimi önlemektir.
AI Defense'in, modellerde halihazırda yerleşik olan kısıtlamalara paralel olarak genel bir güvenlik düzeyi uygulaması ve böylece kullanılan modelden bağımsız olarak tutarlı AI güvenlik yönergelerini sürdürmesi amaçlanıyor. Yazılım, bunu yapmak için Splunk'tan (2023'te Cisco tarafından satın alındı) ve Cisco Talos'tan gelen verilere dayanarak değişikliklere uyum sağlamak için makine öğrenimini kullanıyor. Güvenlik mekanizmaları yalnızca yapay zeka bileşenleri içeren uygulamalar için de geçerli olmalıdır.
Kontrol paneline genel bakış (Resim:
Cisco
)
AI Defense ile Cisco'nun yapay zekaya yaptığı milyar dolarlık yatırımlar, ağ işinin yakın zamanda baskı altına girmesinin ardından meyvesini veriyor. Yapay zekanın genel olarak artan kullanımı ek tehdit senaryoları yaratıyor ve birçoğu veri koruma ve bilgi güvenliği endişeleri nedeniyle yapay zeka ürünlerini kullanmaktan ve geliştirmekten kaçınıyor. Yapay Zeka uygulamalarını geliştirirken ve kullanırken bu zorluğa karşı kapsamlı koruma sunmayı amaçlayan Yapay Zeka Savunması tam da burada devreye giriyor. Yazılımın yapay zeka araçlarının kötüye kullanılmasına ve bunların içerdiği verilerin sızmasına karşı koruma sağlaması amaçlanıyor. AI Defense, Cisco'nun Armorblox ve Robust Intelligence'ı satın alması üzerine geliştirildi ve Mart ayında piyasaya sürülmesi bekleniyor.
(Sen)