Yapay zeka sohbet botları uzun müddettir insanlara yanılgılı ya da tartışmalı karşılıklar verebiliyor. Son periyotta dikkat çeken asıl sıkıntı ise sistemlerin sadece beşerlerle değil, birbirleriyle de bilgi ve yargı alışverişi yapması. Akademik çalışmalar, sistemler ortası etkileşimin dedikoduya benzeyen sonuçlar doğurabildiğini gösteriyor. Üstelik süreç, görünmez biçimde ilerliyor.
Araştırmacılara nazaran yapay zeka sohbet botları dedikoduya benzeyen yargılar üretebiliyor
University of Exeter bünyesinde çalışan filozoflar Joel Krueger ve Lucy Osler, Ethics and Information Technology mecmuasında yayımlanan çalışmalarında dikkat cazibeli noktaya odaklanıyor. Yapay zeka sohbet botları tarafından üretilen kimi çıktılar, klasik yanlış bilgi değil, direkt dedikodu niteliği taşıyor.
Ortada konuşan taraf, dinleyen taraf ve hakkında konuşulan üçüncü kişi bulunuyor. Üstelik aktarılan içerik çoğunlukla olumsuz yargı içeriyor.
İnsanlar ortasında yayılan söylentiler ekseriyetle toplumsal sonlar sayesinde törpüleniyor. Mantık dışı tezler sorgulanıyor, prestij telaşı devreye giriyor. Yapay zeka sohbet botları ise misal fren sistemlerine sahip değil. Akademisyenler, sistemler ortasında dolaşan yargıların vakitle daha sert ve abartılı hale gelebildiğini vurguluyor. Çalışmada süreç ‘vahşi dedikodu’ olarak tanımlanıyor.
Kevin Roose örneği dijital söylentinin nasıl büyüdüğünü gösteriyor
Gerçek hayattan aktarılan en çarpıcı örneklerden biri Kevin Roose üzerinden anlatılıyor. New York Times muhabiri olan Roose, 2023 yılında Microsoft tarafından geliştirilen Bing yapay zeka sohbet botu hakkında eleştirel haberler yayımladıktan sonra enteresan durumla karşılaştı. Farklı yapay zeka sohbet botları tarafından üretilen karşılıklar, gazetecinin çalışmaları hakkında sert ve düşmanca değerlendirmeler içeriyordu.
Meta çatısı altındaki Llama 3 ise çok daha ileri giderek manipülasyon tezleri ortaya attı ve açık nefret tabirleri üretti. Araştırmacılar, çevrim içi yorumların eğitim datalarına sızarak sistemler ortasında bozulmuş halde dolaşmış olabileceğini düşünüyor.
Denetimsiz söylenti ağı gerçek hayatta önemli sonuçlar doğurabiliyor
Yapay zeka sohbet botları akıcı lisan ve inanç veren tonla tasarlanıyor. Hafıza özellikleri, şahsî asistan modları ve sohbet gibisi arayüzler, kullanıcıların aktarılan bilgileri sorgulamadan kabul etmesine yol açabiliyor.
Olumsuz değerlendirmeler ise uzman görüşü üzere algılanabiliyor. Akademisyenler, tam noktada teknolojik ziyandan kelam ediyor.
