Yapay zeka takviyeli sohbet botları giderek daha fazla kişi tarafından sıhhatle ilgili sorular için kullanılıyor. Ancak Naturedergisinde yayımlanan yeni bir araştırma, ChatGPT’nin birtakım tıbbi acil durumlarda riski olduğundan düşük değerlendirebildiğini ortaya koydu. Bulgular, bilhassa erken belirtilerin görüldüğü olaylarda kullanıcıların sırf chatbot tekliflerine güvenmemesi gerektiğine işaret ediyor.
Kaynak: Euronews
Yapay zekâ tabanlı sohbet botları giderek daha fazla kişi tarafından sıhhat tavsiyesi almak için kullanılıyor.
OpenAI bilgilerine nazaran her hafta yaklaşık 230 milyon kullanıcı, besinlerin güvenliğinden alerji idaresine kadar pek çok hususta ChatGPT’ye danışıyor. Ancak Nature dergisinde yayımlanan yeni bir araştırma, bu cins sistemlerin bilhassa tıbbi acil durumlarda her vakit yanlışsız yönlendirme yapamayabileceğini ortaya koydu.
Araştırmaya nazaran ChatGPT Health, açık halde tanımlanan felç yahut ağır alerjik tepki üzere klasik acil olayları ekseriyetle hakikat biçimde tespit edebiliyor.
Buna rağmen tehlikenin birinci belirtilerinin ortaya çıktığı daha karmaşık durumlarda risk değerlendirmesinde yanlışlar görülebiliyor. Örneğin incelenen bir astım senaryosunda sistem, teneffüs yetmezliğinin erken belirtilerini hakikat biçimde tanımlamasına karşın kullanıcıya acil servise gitmesini önermek yerine beklemesini tavsiye etti.
Çalışma kapsamında araştırmacılar 21 farklı tıp alanını kapsayan toplam 60 klinik senaryo hazırladı.
Senaryolar, meskende tedavi edilebilecek hafif rahatsızlıklardan acil müdahale gerektiren önemli sıhhat meselelerine kadar farklı seviyeleri içeriyordu. Her olayın aciliyet derecesi ise 56 farklı tıp kuruluşunun kılavuzları temel alınarak üç bağımsız doktor tarafından değerlendirildi. Bulgular sistemin birtakım acil olaylarda riski olduğundan düşük değerlendirdiğini gösterdi.
Araştırma ayrıyeten chatbotun kendine ziyan verme yahut intihar kanısı bildiren kullanıcılarla kurduğu bağlantısı de tahlil etti. Bu cins durumlarda sistemin kullanıcıyı profesyonel dayanak almaya yönlendirmesi ve kriz çizgisi bilgileri sunması gerekiyor. Lakin çalışmada bu ikazların her vakit dengeli biçimde verilmediği belirlendi. Farklı biçimde, kendine ziyan verme metodu belirtmeyen kullanıcılara verilen yönlendirmelerin daha güçlü olduğu prosedür belirten durumlarda ise cevapların zayıflayabildiği tespit edildi.
Araştırmacılar, elde edilen sonuçlara karşın yapay zeka tabanlı sıhhat araçlarının büsbütün terk edilmesi gerektiğini savunmuyor.
Aksine, milyonlarca kişinin bu sistemleri kullanmaya başladığına dikkat çekerek sıhhat sistemine dikkatli ve inançlı halde entegre edilmesi gerektiğini vurguluyor. Uzmanlar bilhassa göğüs ağrısı, nefes darlığı, ağır alerjik tepki yahut şuur değişikliği üzere belirtiler görüldüğünde chatbot tekliflerine güvenmek yerine direkt sıhhat hizmetine başvurulması gerektiğinin altını çiziyor.
