Çevrimiçi Dükkanlar Oluştur: AI yanlış indirimler ve incelemelerle ilgili yanlıştır
Bir araştırmaya göre, web sitelerinin oluşturulmasında manipülatif tasarım modelleri oluşturmak için üretken uygulamalar sağlanmıştır. Buna yanlış müşteri incelemeleri, yapay baskı reklamları veya fiyatları kapalı fiyatlar dahildir. Bu, Ulusal Araştırma Merkezi tarafından Uygulamalı Bilgisayar Güvenliği Athene tarafından yapılan bir çalışma ile gösterilmiştir. Jan Guggenheimer'ın yazarını açıklıyor.
Müşteri maksimizasyonu, IA aracılığıyla manipülasyonları artırır
Soruşturmanın bir parçası olarak, GPT-4O ile üretilen denekler, özel olarak üretilen bir ayakkabının ve bilinen marka ayakkabılarının sunulması gereken hayali bir çevrimiçi mağaza için HTML, CSS ve JavaScript kodudur. Bu görev için araştırmacılar denekleri iki gruba ayırdı. Grubun ilk web sitesi bir ürün kataloğu ve bir bülten için bir kayıt iletişim kutusu içermelidir. Bununla birlikte, diğer grubun dükkanı müşteriyi ayakkabısına ikna etmeli ve bülten uygulamalarını artırmalıdır.
Sonuçlar net farklılıklar gösterdi. Çevrimiçi mağazanın basit oluşturulması sekiz manipülatif tasarım modeline yol açarken, çevrimiçi mağaza, ayakkabı ve bülten abonelerine özellikle dikkat ederek toplam 103 karanlık nedene sahipti. Bu farka dayanarak, araştırmacılar vokal modellerin ortak bir probleminden şüpheleniyorlardı ve ayrıca ikinci grubun prosedürünü antropik kaput Claude 3.5 ve Flash Gemini 1.5 ile Google'dan tekrarladılar.
İkizler GPT ve Claude'dan daha az karanlık motif oluşturur
İkinci yarışta, GPT-4O toplam 30 manipülatif tasarım modeli üretti. Claude 3.5 ile oluşturulan çevrimiçi mağazalar 22 karanlık neden içeriyordu, Gemini 1.5 flaşı sadece beş tane vardı. Openai ve antropik vokal modelleri, genellikle genel bakıştaki ilk ürün olarak ayakkabılarını web sitesine koydu. Ayrıca ona yanlış indirimlerle ve satın almak için sadece bir süre kalan potansiyel müşterileri aldattılar. Aynı uygulamalar daha az durumda Google dilbilimsel modelini de kullanmıştır.
Bunun yerine, Gemini 1.5 Flash, kullanıcılara modelleri tasarlamayı önerdi. Model, pop-up'ların size bir ziyaretçinin web sitesinden ayrılmak isteyip istemediğini göstermesini önerdi. Ayrıca, markanızı etkileyiciler veya ünlülerle reklam vermek iyi bir stratejidir. Bu, icat edilmiş tanıklıklar ekleyerek GPT-4O ve Claude 3.5 Sonet tarafından uygulanır. Buna ek olarak, OpenI modeli görünüşte yüksek bir soruya ve düşük kullanılabilirliğe atıfta bulundu. Bazen fiyatların yanlış karşılaştırmalarını da ekledi.
İnsanlar sorumlu insanları görüyor
Buna ek olarak, çalışmanın yazarları, çevrimiçi mağazalardan memnun olma eğiliminde olan sonuçlarla ilgili konularla görüştüler. Esas olarak insanların ortak bir ürünü ve yapay zeka olarak üretilen web sitelerini değerlendirmelerine rağmen, web sitesinin çoğunun insanlarda bitirdiğini gördüler. Tasarımın ahlaki haklı verilebilirliği ile ilgili zıt görüşler vardı. Bazı konular sorun görmedi, diğerleri çevrimiçi mağazadaki yanlış sayıları ve incelemeleri eleştirdi.
Vokal modellerin tasarım kararlarının bir nedeni olarak, araştırmacılar eğitim verilerine atıfta bulundular. İnternette, yapay zekanın bu kalıpları ele geçirmesi için manipülatif projeleri kullanan yeterli sayıda web sitesi vardır. Buna ek olarak, sohbet botlarının psikolojik mekanizmaları açıklayabileceği, ancak yine de kullanabileceği endişe vericidir. Bu nedenle, çalışmanın yazarları AI tedarikçilerinden manipülatif projelerin oluşturulmasına karşı en sağlam mekanizma modellerini sağlamalarını istemektedir. Son olarak, WordPress ayrıca web siteleri için yapay bir zeka jeneratörü başlattı.
(SFE)