Artık klimadan buzdolabına kadar hayatımızın her köşesinde yapay zeka var. Pekala hayatımızı kolaylaştıran bu teknolojiye her şeyimizi teslim etmek ne kadar inançlı? Yapay zekanın öncülerinden Yoshua Bengio, insanlığı tehdit edebilecek bir AI felaketine karşı ikazda bulunuyor.
Detaylar 👇
Kaynak: https://www.independent.co.uk/news/wo…
Yapay zekanın “babası” olarak bilinen Yoshua Bengio, tekrar gündeme bomba üzere düşen açıklamalarda bulundu.
2018’de Turing Ödülü’nü kazanan ve derin öğrenmenin öncülerinden biri olan Bengio, AI sistemlerinin insanlardan çok daha zeki hale gelebileceğini ve kendi çıkarlarını müdafaa içgüdüsü geliştirebileceğini söylüyor.
Bengio, yapay zekanın biyolojik silahlar geliştirmeye ya da pandemiler yaratmaya yardımcı olabileceği ihtarında da bulundu. Kanadalı bilgisayar bilimcisi “Felaket riskinin yüzde 1 bile olması kabul edilemez,” diyor. Bu yüzden şirketlerin güvenlik sistemlerinin bağımsız kurumlarca denetlenmesi gerektiğini, AI sistemlerinin güvenilirliğine dair delil talep edilmesini koşul koşuyor.
Bengio ayrıyeten, AI şirketlerinde çalışan birçok uzmanın da bu risklerden kaygı duyduğunu ve inovasyon hırsının bazen optimist bir yanılgıya yol açtığını belirtiyor.
Buna karşılık, Donald Trump idaresi yapay zekayı bir yarış alanı olarak görüyor.
Temmuz ayında imzalanan başkanlık kararnamesiyle, federal kurumların sırf “tarafsız ve doğru” cevaplar veren AI sistemlerini kullanması kural koşuldu. “Woke AI” olarak nitelendirilen sistemler ise devlet ihalelerinden dışlanacak.
Trump ayrıyeten OpenAI, Softbank ve Oracle ile 500 milyar dolarlık bir AI yatırımı duyurdu. Bununla birlikte NVIDIA üstün bilgisayar projelerini hayata geçiriyor, Google ve Blackstone’dan 92 milyar dolarlık yatırımlar geliyor. Eleştirmenler, bu yatırımların ABD’de devasa bir nezaret altyapısına taban hazırladığını söylüyor.
Bilim insanları uzun müddettir yapay zekanın süratle gelişen potansiyelinin hem yarar hem de riskler barındırdığını vurguluyor.
Yaptığı konuşmasından “Eğer bizden daha akıllı makineler yaratırsak, adeta kendimize rakip bir cins inşa etmiş oluruz,” diyen Bengio, bu teknolojinin insanları ikna etme, manipüle etme ve hatta tehdit etme potansiyeli taşıdığını vurguluyor. Ona nazaran bu durum, Stanley Kubrick’in kült sineması 2001: Bir Uzay Destanı’ndaki HAL 9000’i hatırlatıyor.
Peki sizce yapay zeka nitekim hayatımızı kolaylaştıran suçsuz bir teknoloji mi, yoksa sinemalarda gördüğümüz üzere insanlığı tehdit eden bir risk mi? AI süratle ilerlerken, denetimi büsbütün bizde mi olmalı yoksa hudutlar mı konmalı?
