Yapay zeka her geçen gün günlük hayatın daha büyük bir kesimi haline gelirken, bu teknolojiyi yakından tanıyanların yaptığı ikazlar dikkat çekiyor. Kesimde çalışan birçok uzman, riskleri şahsen gözlemledikleri için ailelerine ve yakınlarına yapay zekadan uzak durmalarını tavsiye ediyor. Şirketlerin sürat baskısı, eksik kontrol ve yanlışlı çıktılar üzere sıkıntılar nedeniyle, teknolojiyi geliştirenlerin dahi kendi konutlarında bu sistemlere yer vermemesi tartışmayı daha da büyütüyor.
Kaynak: Independent
Yapay zeka süratle hayatın her alanına nüfuz ederken, değişik bir halde bu teknolojiyi en yakından tanıyan şahıslar, yani bölüm çalışanları, yakın etraflarını açıkça uyarıyor.
Guardian’ın haberine nazaran birçok uzman, ailelerine ve arkadaşlarına yapay zekadan uzak durmalarını söylüyor. Nedeni ise hayli kolay. Teknolojiyi geliştirenler, risklerini herkesten daha yeterli biliyor.
Sektörde çalışanların ortak fikri, şirketlerin “hız ve ölçek” odaklı yarışının güvenlik telaşlarını geri plana ittiği.
Aceleyle oluşturulan süreçler, düşük kaliteli eğitim dataları ve kontrol eksikliği; kusurlu, taraflı yahut tehlikeli sonuçlar doğuruyor. Amazon’un Mechanical Turk platformu ve Google’ın kalite kıymetlendirme ünitelerinde vazife yapan çalışanlar, modellerin sık sık “halüsinasyon” olarak bilinen yanlış bilgi üretme meselesine dikkat çekiyor. Bilhassa siyasi ve tarihi hususlarda yanlışlı karşılıkların çok kolay ortaya çıktığını belirtiyorlar.
Google’da çalışan bir isim, kimliğinin kapalı kalması koşuluyla, 10 yaşındaki kızının yapay zeka tabanlı sohbet botlarına erişimine müsaade vermediğini söylüyor.
Bu kararının münasebeti ise çocuğunun evvel eleştirel düşünmeyi öğrenmesi gerektiğini, aksi halde modelin sunduğu bilginin doğruluğunu değerlendiremeyeceğini anlatıyor.
Google’da içerik kıymetlendirme yapan öteki bir çalışan ise, İsrail’le ilgili kapsamlı cevaplar alınabilirken, Filistin’le ilgili sorularda modelin daima başarısız olduğunu aktarıyor.
Durumu rapor etmelerine karşın şirket içinde kimsenin bu tutarsızlıkla ilgilenmediğini söz ediyor.
MTurk çalışanı Krista Pawloski de yıllarca sistemin iç işleyişini gözlemlemiş bir isim. Toplumsal medya içeriklerinde ırkçı paylaşımların tespit edilmesi üzere misyonlar yürüttüğünü, fakat yapay zeka modellerinin pek çok ziyanlı içeriği gözden kaçırdığını söylüyor. Bu deneyimlerden sonra üretken yapay zekayı büsbütün hayatından çıkardığını, ailesine de kullanmamalarını tembih ettiğini belirtiyor. Hatta kızının ChatGPT ve gibisi platformlara erişmesine “evinde asla müsaade vermediğini” vurguluyor.
Yapay zeka sistemleri üzerine tahliller yapan Distributed AI Research Institute’tan Adio Dinika ise, bu teknolojilerin nasıl çabukla geliştirildiğini, hangi ödünlerle ortaya çıktığını yakından gördükçe “fütüristik bir mucize” algısının kaybolduğunu lisana getiriyor. Ona nazaran yapay zekayı en çok idealize edenler, aslında onu en az anlayanlar.
