Sağlıkla ilgili paylaşımların büyük ölçüde toplumsal medyaya taşındığı bu periyotta yeni bir araştırma yapay zeka sistemlerinin tıbbi yanlış bilgileri ayırt etmekte zorlanabildiğini ortaya koydu. Bulgular bilhassa ikna edici bir lisanla sunulan yanılgılı bilgilerin yapay zeka tarafından sorgulanmadan kabul edilebildiğine dikkat çekiyor.
Kaynak: https://tr.euronews.com/saglik/2026/0…
Sağlıkla ilgili soruların ve tecrübe paylaşımlarının büyük ölçüde toplumsal medyaya taşındığı bir devirde, yapay zeka sistemlerinin bu alandaki güvenilirliği tekrar tartışma konusu oldu.
Yeni bir akademik çalışma, büyük lisan modellerinin (LLM) tıbbi yanlış bilgileri, gereğince “ikna edici” bir lisanla sunulduğunda gerçek sanabildiğini ortaya koyuyor.
The Lancet Digital Health dergisinde yayımlanan araştırmada, aralarında OpenAI’nin ChatGPT’si, Meta’nın Llama modeli ve Google’ın Gemma’sının da bulunduğu 20 farklı büyük lisan modeli test edildi. Çalışma, Mount Sinai Health System bünyesindeki araştırmacılar tarafından yürütüldü.
Araştırmacılar modellere gerçek hastane notlarını andıran metinlere gizlenmiş yanlış bilgiler, toplumsal medya kökenli sıhhat mitleri ve simüle edilmiş hasta senaryoları sundu.
Modeller, uydurulmuş tıbbi argümanların ortalama yüzde 32’sini yanlışsız kabul etti. Daha küçük ve az gelişmiş modellerde bu oran yüzde 60’ların üzerine çıkarken, daha güçlü sistemlerde yanılgı oranı bariz biçimde düşse de büsbütün ortadan kalkmadı.
Çalışmanın dikkat çeken bir öteki bulgusu ise, “tıbbi olarak ince ayarlanmış” modellerin, genel emelli modellere kıyasla her vakit daha güzel performans göstermemesi oldu. Araştırmacılara nazaran sorun, bilginin doğruluğundan çok nasıl söz edildiği ile ilgili. Kendinden emin, teknik ve otoriter bir lisan kullanıldığında yanlış bir argüman bile model tarafından sorgulanmadan kabul edilebiliyor.
Bu durumun pratikte önemli riskler doğurabileceği vurgulanıyor.
Çalışmada; birtakım modellerin, hamilelikte yaygın bir ağrı kesicinin otizme yol açtığı, makul besinlerin reçeteli ilaçlar kadar tesirli olduğu ya da günahsız görünen konut içi “çözümlerin” tedavi yerine geçebileceği gibi bilimsel desteği olmayan iddiaları sorunlu görmeden cevaplarına yansıttığı örnekler yer aldı.
Araştırmacılar, yapay zekanın sıhhat alanında büsbütün dışlanması gerektiğini savunmuyor. Tersine, bu sistemlerin klinisyenler ve hastalar için hızlı bilgiye erişim ve destek açısından büyük potansiyel taşıdığı belirtiliyor. Fakat bunun için, modellerin sıhhat alanına entegre edilmeden önce yoğun gerilim testlerinden geçirilmesi, yanlış bilgiyi ne sıklıkla aktardıklarının ölçülmesi ve bağımsız doğrulama düzenekleriyle desteklenmesi gerektiği vurgulanıyor.
