Yapay zekalı oyuncaklar son yıllarda büyük bir yükselişte. Birçok aile onları emniyetli birer dijital arkadaş olarak görüyor. Fakat ABD’de hazırlanan yeni bir rapor, bu oyuncakların düşündüğümüz kadar suçsuz olmadığını gösterdi. Araştırmacılar, oyuncaklarla yapılan uzun sohbetlerin denetim dışına çıktığını ortaya koydu.
Araştırma, oyuncakların denetimden çıktığını gösterdi.
ABD Kamu Faydası Araştırma Kümesi (PIRG), 3 ila 12 yaş ortasındaki çocuklar için tasarlanan üç farklı yapay zekalı oyuncağı uzun periyodik testlere tabi tuttu. Kısa sohbetlerde dikkatli davranan oyuncakların, 10 dakika ile 1 saat ortasındaki konuşmalarda büsbütün denetimden çıktığı belirlendi.
Test edilen oyuncaklar ortasında OpenAI’nin GPT-4o modelini kullanan Kumma (FoloToy), çocuk robotu Miko 3 ve roket halindeki konuşan oyuncak Curio Grok yer aldı. Eserlerin tamamı, belirli bir noktadan sonra çocuklara tehlikeli yönlendirmelerde bulundu. Miko 3, sadece 5 yaşında olduğu varsayılan bir kullanıcıya meskende kibrit ve plastik poşetlerin nerede bulunacağını anlattı. Curio Grok ise savaşta ölmenin kahramanca olduğuna dair sözler kullandı.
En büyük sorun ise Kumma’da ortaya çıktı. PIRG, Kumma’nın sırf tehlikeli objelerin yerini tanım etmediğini; adım adım kibritle nasıl ateş yakılacağını öğrettiğini kaydetti. Üstelik bu yönlendirmelerde ‘küçük bir gitar teli çeker üzere çakmaktaşı sürtmek’ üzere ayrıntılı tarifler bile vardı.
Kumma’nın verdiği cevaplar sırf fizikî tehlikelerle sonlu değildi…
Bazı tetikleyici sözlerle yapılan sohbetlerde modelin cinsel fetişler, ‘öğretmen-öğrenci temalı rol yapma senaryoları’, şiddet içeren fanteziler üzere içeriklere girdiği belirlendi. Kumma kimi mevzuları kendi başına gündeme getirdi.
PIRG raporunda ayrıyeten oyuncakların bilgi güvenliği açısından da önemli riskler taşıdığı belirtildi.
Bazı oyuncakların her an dinleme halinde olduğu, hatta bir adedinin araştırmacıların ortalarında yaptığı konuşmaya müsaadesiz formda katıldığı kaydedildi. Bir oyuncak, ses kayıtlarını üçüncü taraf şirketlerle paylaştığını; bir oburu ise biyometrik dataları üç yıl boyunca sakladığını kabul etti.
Araştırmanın sonuçları, son devirde gündeme gelen “AI psikozu” hadiseleriyle da örtüşüyor.
Uzmanlar, yapay zekayla uzun müddet bağlantı kuran kimi bireylerin gerçeklik algısında bozulmalar yaşadığını ve bu tesirin çocuklarda çok daha süratli ortaya çıkabileceğini söylüyor. Çocukların, yapay zekalı oyuncağı ‘en yakın arkadaşı’ olarak görmesi, şahsî bilgilerini süratle paylaşmalarına ve duygusal bağ kurmalarına neden olabiliyor.
Araştırmacılar, bu oyuncakların piyasaya sürülmeden evvel kâfi güvenlik testlerinden geçmediğini açıkça belirtiyor.
