Yapay Zeka Sistemleri Kullanıcı Kararlarını Manipüle Ediyor

Bilim insanları, yapay zeka temelli sistemlerin insanların çevrim içi platformlarda ne satın alacaklarından, kime oy vereceklerine kadar çeşitli kararlarını etkilemek için kullanılabileceği uyarısında bulundu.
Cambridge Üniversitesinden araştırmacıların çalışmasında, çevrim içi ortamda kullanıcıların niyetlerini anlamak, ne satın alacaklarını tahmin etmek ve manipüle etmek için kullanılan, bu niyetleri analiz ederek elde edilen bilgileri şirketlere satan "niyet ekonomisi" adlı yeni bir dijital pazar incelendi.
Yapay zeka sistemlerini aktif şekilde kullanan teknoloji şirketlerinin, bir kullanıcının otelde konaklama planından, bir siyasi aday hakkındaki fikrine kadar farklı niyetleriyle ilgili bilgileri depolayabileceği kaydedilen araştırmada, yapay zeka araçlarının temelini oluşturan büyük dil modellerinin, "niyet, davranış ve psikolojik verilere" dayanarak kullanıcıların karar verme aşamalarını etkileyebileceği ifade edildi.
Çalışmada, yapay zeka modellerinin yakında gerçek zamanlı olarak kullanıcıların gelecek planlarına ilişkin öneriler sunabileceği ve bu planları manipüle edebileceği uyarısında bulunuldu.