OpenAI: ABD Tüketiciyi Koruma Dairesi İtalya’yı araştıracak ChatGPT’yi engelliyor
Kâr amacı gütmeyen bir araştırma kuruluşu, rekabet hukuku ve tüketicinin korunmasından sorumlu ABD Federal Ticaret Komisyonu’ndan (FTC) OpenAI’yi soruşturmasını istedi. Yapay Zeka ve Dijital Politika Merkezi (kısaca Politika Merkezi) bu hafta resmi bir şikayette bulundu. Temel iddia, OpenAI’nin GPT-4’ü ticari olarak piyasaya sürmesinin ABD ticaret yasasını ihlal ettiğidir. Ürün insanları aldatır ve tehlikeye atar, taraflıdır ve mahremiyet ve kamu güvenliği için risk oluşturur.
ABD federal kurumu rekabete aykırı uygulamalara karşı çıkıyor
46 sayfalık belgede Politika Merkezi, federal kurum yetkililerini OpenAI tarafından oluşturulan Üretken AI sistemlerini araştırmaya ve gerekirse düzenlemeye çağırıyor, mektup kamuya açık. Söz konusu Federal Ticaret Komisyonu, yetkileri bir rekabet otoritesinin görevlerinin ötesine geçen ve Amerika Birleşik Devletleri’nde tüketicinin korunmasını da düzenleyen Washington, DC merkezli bağımsız bir federal otoritedir.
Tüketicilerden, kurumlardan veya şirketlerden doğrudan şikayet gelmesi durumunda, yetkili merci şirketlere karşı işlem yapar. Kongreden gelen taleplere cevaben veya medyadaki yayınlardan sonra da müdahale edebilir. Kurumun amacı, rekabetçi bir piyasanın işleyişini sağlamak ve haksız veya aldatıcı rekabete aykırı uygulamalarla mücadele etmektir.
OpenAI sorumluluk almadan riskler konusunda uyarıyor
Dezenformasyon ve manipülasyon kampanyaları, konvansiyonel ve konvansiyonel olmayan silahların çoğalması ve siber güvenlik, OpenAI’nin kendisinin de kabul ettiği özel tehditler olarak görülüyor. AI şirketinin kendisi, AI sistemlerinin ideolojileri, dünya görüşlerini, gerçekleri ve yanlışları yaymak ve pekiştirmek için önemli bir potansiyele sahip olduğu konusunda uyarıda bulundu. Politika Merkezi, OpenAI’nin kendi yapay zeka sisteminin kullanımından kaynaklanan sonuçlar ve zararlar için herhangi bir sorumluluk kabul etmediğini özellikle eleştiriyor.
ABD otoritesi, ürünlerde yapay zeka kullanımını çeşitli koşullara tabi hale getirdi: şeffaflık, açıklanabilirlik, adalet, ampirik temel ve izlenebilirlik ve ayrıca hasar durumunda hem hesap verebilirliği hem de sorumluluğu gerektiren net hesap verebilirlik (sorumlu hesap verebilirlik). Şikayete göre GPT-4 bu şartların hiçbirini karşılamıyor, bu yüzden ajansın harekete geçme zamanı geldi. Politika Merkezi, Amerika Birleşik Devletleri’nde piyasaya çıkan ticari AI ürünlerinin bağımsız gözetimini ve değerlendirmesini sağlar. Tüketicileri, işletmeleri ve ticareti bir bütün olarak korumak için önlemlere ihtiyaç vardır ve AI ürünlerinin OpenAI tarafından daha fazla yayınlanması engellenmelidir.
Yapay Zeka ve Dijital Politika Merkezi, 60 ülkeden yapay zeka düzenleme uzmanları ve hukukçulardan oluşan küresel bir ağ içeren, Washington DC merkezli, kar amacı gütmeyen bir araştırma kuruluşudur. Politika Merkezi, AI düzenlemesi alanında (geleceğin AI politika liderleri) karar vericiler için profesyonel eğitim sunar. Örgüt, ABD eyalet hükümetlerine ve uluslararası kuruluşlara yapay zeka ve gelişmekte olan teknolojilerle ilgili düzenleyici kararlar konusunda tavsiyelerde bulunuyor.
ayrıca oku
Daha fazla göster
daha az göster
Algoritmik ayrımcılığa karşı
ABD makamı, Şubat ayında yapay zekaya karşı yalan reklamlara karşı uyarıda bulunmuştu ve sağlayıcıların pazardaki varlığını eleştirel bir şekilde incelemişti. O sırada, Amerika Birleşik Devletleri’nde faaliyet gösteren şirketleri, yeni ürünlerin piyasaya sürülmesinden önce bile Nisan 2023 resmi AI kılavuzunu (“Şirketinizin AI kullanımında gerçeği, adaleti ve adaleti hedefleyin”) takip etmeleri konusunda uyardı. Ekim 2022’de ABD hükümeti, algoritmalar tarafından ayrımcılığı önlemeyi amaçlayan AI çağı için gelecekteki bir temel haklar yasası olan “ABD AI Haklar Bildirgesi” için planlar başlattı. Verilerin korunması ve açıklanabilirlik, burada belirlenen ilkeler arasındadır.
Her iki belgenin de ortak noktası, doğrudan yasal bir değere sahip olmaması, örnek teşkil etmesidir. Federal Ticaret Komisyonu, 2021’den beri BT sektöründeki ürün ve hizmetler için yeni spesifikasyonlar geliştiriyor (“FTC, Ticari Gözetim ve Gevşek Veri Güvenliği Uygulamalarını Sıkılaştıran Kuralları Araştırıyor”). AB’de yaklaşmakta olan AI yasasını çevreleyen yasama sürecine benzer şekilde, risk değerlendirmesi ve sınıflandırma, ortaya çıkan mevzuatın merkezinde yer almaktadır. ChatGPT gibi yapay zeka uygulamalarına yönelik olası bir yasak havada.
İtalyan Veri Koruma Kurumu ChatGPT’yi askıya aldı
İtalya, ChatGPT’yi “ikinci bir duyuruya kadar” engelledi ve OpenAI, veri koruma nedenleriyle bir milyon para cezasıyla tehdit edildi. İtalyan veri koruma yetkilisi Garante per la Protezione dei Dati Personali (kısaca “Gizlilik Garantisi”), üretken bir yapay zeka sohbet robotunun kullanımını engelleyen dünyadaki ilk yetkilidir. Kısıtlayıcı önlemin nedeni, 20 Mart’ta diğer kullanıcıların sohbet geçmişlerini ve ödeme bilgilerini görünür kılan OpenAI tarafından sağlanan bir güvenlik sorunuydu. Kişisel verilerin “eğitim amaçlı” büyük çapta depolanması ve kullanılması şeffaf değildir ve AB’de kişisel verilerin korunmasına uygun değildir. Reşit olmayanları rahatsız edici içerikten korumak için yaş filtresi de yoktur. Görünüşe göre OpenAI’nin koruyucu önlemleri uygulamak ve “sorunu kontrol altına almak” için üç haftası var, yetkili makamın avukatı ve veri koruma uzmanı Guido Scorza blogunda ve Wired IT portalında iki dilde söyledi.
Scorza’nın Wired’a açıkladığı gibi, yasak geçici bir önlem. Bu, kişisel verilerin işlenmesi ile ilgilidir. ChatGPT kişisel veriler olmadan çalışıyorsa, daha fazla kullanım sorun olmaz. Aslında OpenAI, yazılımına İtalya’dan erişimi engellemek veya en azından kişisel veri içermeyen işlevlerle sınırlamak zorunda kalacak. 30 Mart kararının yayınlanmasının ardından ne kadar zaman geçeceği bilinmiyor ve OpenAI’nin talebi yerine getirip getirmeyeceği de henüz netlik kazanmış değil. Ayrıca, bağlantının İtalya dışındaki diğer ağlara yönlendirilmesine izin veren sanal özel ağlar (VPN) üzerinden bağlantılara müdahale etmek mümkün değildir, böylece proxy tarafından herhangi bir engelleme atlanır. Hüküm, Gizlilik Garantörünün belgeler alanında iki dilde (İtalyanca ve İngilizce) mevcuttur.
Gerçek riskler ve bilim kurgu senaryoları
Bu bağlamda, açık bir mektup sansasyon yaratıyor: Future of Life Enstitüsü tarafından yayınlanan manifesto, büyük AI sistemlerinin riskleri sorusunu gündeme getiriyor ve en az altı aylık bir moratoryum çağrısı yapıyor. 1700’den fazla parça AI ve teknoloji dünyasının önde gelen kişilikleri çağrıyı destekliyor halk. Uzmanlar ikiye bölünmüş durumda: Büyük yapay zeka modelleri üzerinde yaklaşık altı aylık çalışma yeterli olmasa da, diğerleri riskleri yönetmek ve OpenAI ile GPT-4’ü yakalamak için zorunlu bir duraklama yerine hızlandırma çağrısında bulunuyor.
Açık mektupla ilgili bir TIME yorumunda, AI’yı eleştiren tanınmış bir Hizalama araştırmacısı, dramatik koşulları geleceğe yansıtacak, AI veri merkezlerini yok etmek için bombalama çağrısı yapacak ve satılan tüm GPU’ların AI özellikli makinelerin izlenmesini önerecek kadar ileri gitti – Eliezer Yudkowsky’nin açıklamaları bilim kurgu için olgunlaşmış durumda.
Araştırma ve rekabetin yanı sıra güvenliği de önemseyen daha ılımlı sesler, belki de Büyük Ölçekli Yapay Zeka Açık Ağı olan LAION’un bir imza kampanyasında bulunabilir: üyeleri, yapay zeka araştırmaları ve büyük açık kaynakların oluşturulması için bir CERN önermektedir. – önce modeller. Dilekçe, okumaya değer araştırmaya dayalı bir gerekçenin yanı sıra yapay zekanın riskleri hakkında devam eden tartışmaya ilişkin görüşler ve odak noktaları içeriyor. ONLAR Her iki tarafın argümanlarını ele alın objektif bir değerlendirmeye kendi başınıza varmanız yararlı olabilir.
ayrıca oku
Daha fazla göster
daha az göster
güncellemeler
03/31/2023
20:00
Saat
İtalyan kaynaklarına göre İtalya’da ChatGPT’nin askıya alınmasıyla ilgili bölüm güncellendi. OpenAI, İtalya için ülke erişimini engelleme talebi aldı. Kişisel veri gerektirmeyen uygulama işlevleri, İtalyan veri koruma makamının kararından muaftır. ABD toplumunun buna uyup uymadığı ve ne ölçüde uyacağı henüz belli değil.
(onun)
Haberin Sonu