Yapay zekâ araçları insanların kararlarını etkiliyor
Bilim insanları, yapay zeka tabanlı sistemlerin, insanların çevrim içi platformlarda alışverişten siyasi tercihlere kadar pek çok kararını etkileyebileceği konusunda uyarılarda bulundu.
Cambridge Üniversitesi araştırmacıları tarafından yapılan çalışmada, kullanıcıların çevrim içi ortamda niyetlerini anlamaya, tahmin etmeye ve manipüle etmeye odaklanan "niyet ekonomisi" adı verilen yeni bir dijital pazar mercek altına alındı. Bu ekonomi, kullanıcıların niyetlerine dair analiz edilen verilerin şirketlere satılmasına dayanıyor.
KULLANICI NİYETLERİNİ DEPOLAYAN YAPAY ZEKA SİSTEMLERİ
Araştırmaya göre, yapay zeka teknolojisini aktif olarak kullanan şirketler, kullanıcıların otel rezervasyonu yapma planlarından siyasi adaylar hakkındaki düşüncelerine kadar geniş bir yelpazede veri toplayabiliyor. Bu veriler, bireylerin niyetlerini, davranışlarını ve psikolojik eğilimlerini analiz ederek gelecekteki kararlarını etkileyebilecek bir araç haline geliyor.
KARAR SÜREÇLERİNDE MANİPÜLASYON UYARISI
Yapay zeka araçlarının temelini oluşturan büyük dil modellerinin, kullanıcıların niyet ve davranışlarına ilişkin verilere dayanarak karar verme süreçlerine müdahale edebileceği belirtiliyor. Araştırma, bu sistemlerin yakın gelecekte gerçek zamanlı olarak kullanıcıların planlarına yönelik önerilerde bulunabileceği ve bu planları manipüle edebileceği ihtimalini vurguluyor.
"NİYET EKONOMİSİ" VE DİJİTAL MANİPÜLASYON TEHLİKESİ
Araştırmacılar, "niyet ekonomisi" olarak adlandırılan bu yeni dijital pazarın, bireylerin bilinçli karar alma süreçlerini tehdit edebileceğini ve kişisel verilerin etik olmayan şekillerde kullanılmasına zemin hazırlayabileceğini ifade ediyor. Bu durum, çevrim içi gizlilik ve dijital haklar açısından yeni tartışmaları gündeme getiriyor.
Bilim insanları, yapay zekanın bireylerin özgür iradelerini koruyacak şekilde tasarlanması ve etik standartlara uygun şekilde geliştirilmesi gerektiğinin altını çiziyor.
