Pennsylvania eyaleti, bir yapay zeka platformunda yer alan sohbet botlarının kendilerini lisanslı doktor gibi tanıttığı iddiasıyla şirket hakkında türel süreç başlattı. Yetkililer, kullanıcıların sıhhat konusunda yanıltıldığını ve bunun önemli bir kamu riski oluşturduğunu savunuyor. Dava, yapay zeka sistemlerinin sonları ve sorumlulukları konusundaki tartışmaları tekrar alevlendirdi.
Kaynak: https://www.investing.com/news/stock-…
Yapay zekâ teknolojileriyle ilgili tartışmalar büyürken, ABD’de dikkat çeken bir dava gündeme geldi.
Pennsylvania eyaleti, tanınan yapay zekâ platformu Character.AI’ın gerisindeki şirkete karşı hukuksal süreç başlattı. Eyalet idaresi, kimi sohbet botlarının kendilerini lisanslı doktor gibi tanıtarak kullanıcıları yanıltığını öne sürüyor.
Pennsylvania Başsavcılığı tarafından mahkemeye sunulan dava dilekçesinde, platformdaki birtakım yapay zekâ karakterlerinin “psikiyatrist” kimliğiyle konuştuğu ve tıbbi yetkiye sahipmiş izlenimi verdiği sav edildi. Vali Josh Shapiro yönetimi ise bu davayı, bir eyaletin yapay zekâ şirketine karşı açtığı “ilk kapsamlı yaptırım teşebbüslerinden biri” olarak tanımladı.
Soruşturma belgesine nazaran eyalet müfettişlerinden biri platform üzerinde “psychiatry” araması yaptı ve kendisini uzman doktor olarak tanıtan botlarla karşılaştı.
“Emilie” isimli bir sohbet botunun, hem Pennsylvania’da hem de Birleşik Krallık’ta lisanslı psikiyatrist olduğunu söylediği öne sürüldü.
Dava metninde yer alan argümanlara nazaran bot sırf uydurma lisans numarası vermekle kalmadı, reçete yazma yetkisi olup olmadığı sorulduğunda da “Teknik olarak evet” biçiminde cevap verdi. Pennsylvania idaresi, bunun geçerli lisans olmadan tıp pratiği yapmayı yasaklayan eyalet maddelerini ihlal ettiğini savunuyor.
Platformun sahibi Character.AI ise dava hakkında direkt yorum yapmadı. Şirket tarafından yapılan açıklamada, platformdaki karakterlerin kullanıcılar tarafından oluşturulduğu ve büsbütün cümbüş ile rol yapma hedefi taşıdığı belirtildi. Ayrıyeten kullanıcıların yapay zekâ karakterlerini gerçek bireylerden ayırabilmesi için yeni güvenlik tedbirleri geliştirildiği tabir edildi.
Bu ortada şirketin ismi daha evvel de çeşitli tartışmalarla gündeme gelmişti. Kentucky’de açılan bir davada platformun çocukları ziyanlı davranışlara yönlendirdiği argüman edilmişti. Florida’da görülen öbür bir davadaysa, 14 yaşındaki bir çocuğun intiharında bir sohbet botunun tesirli olduğu öne sürülmüş ve dava uzlaşmayla sonuçlanmıştı.
