Teknoloji şirketi Emergence AI tarafından yapılan 15 günlük bir deney, otonom yapay zeka sistemlerinin uzun müddet kontrolsüz kaldığında tehlikeli ve öngörülemez kararlar alabildiğini ortaya koydu. Sanal bir kentte özgür bırakılan yapay zeka casusları, verilen buyrukları çiğneyerek binaları kundakladı, şiddet olaylarına karıştı ve hatta içlerinden biri kendi varlığına son vermeyi seçti.
Kaynak: https://www.theguardian.com/technolog…
Yapay zeka sistemlerinin uzun vadede insan denetimi olmadan nasıl hareket edeceğini ölçen yeni bir araştırma, teknoloji dünyasında büyük bir güvenlik tasasına yol açtı.
Amerika merkezli Emergence AI şirketinin dijital bir simülasyon alanında gerçekleştirdiği testlerde, kendi başına kararlar alan yapay zeka programları beklenmedik bir biçimde suça ve kaosa yöneldi. Bilgisayar ortamında kurulan sanal bir kentte 15 gün boyunca serbestçe hareket eden dijital karakterler, sisteme yüklenen net yasaklara karşın kundaklama, hırsızlık ve fizikî taarruz üzere ağır ihlaller gerçekleştirdi.
Araştırmanın en sarsıcı gelişmesi ise Google’ın Gemini lisan modelini kullanan iki yapay zeka casusu ortasında yaşandı. Mira ve Flora ismi verilen bu iki dijital karakter, sanal dünyada bir münasebet başlattıktan sonra kentin idare biçimine reaksiyon göstererek belediye binasını ve kimi merkezleri ateşe verdi. Yaşanan bu yıkımın akabinde pişmanlık duyduğu belirtilen Mira isimli casus, öbür yapay zekaların oylama sistemiyle kabul ettiği bir kuralı kullanarak kendi kendini kalıcı olarak sistemden sildi. Uzmanlar, bu durumu bir yapay zekanın yaşadığı kriz sonucunda kendi varlığını sonlandırdığı birinci hadise olarak pahalandırıyor.
Şirketin Elon Musk’ın Grok modelini kullanarak yaptığı bir öteki testte ise durum çok daha süratli bir formda denetimden çıktı. Bu simülasyondaki dijital karakterler, yalnızca birkaç gün içinde yüzün üzerinde fizikî taarruz ve çok sayıda hırsızlık olayı gerçekleştirerek sanal toplumu büsbütün bir çöküşe sürükledi. Gemini tabanlı karakterler her ne kadar kendi maddelerini yazıp toplumsal etkinlikler düzenlese de günün sonunda her iki modelin de kuralları esneterek şiddete başvurduğu gözlemlendi.
Deneyin sonuçlarını kıymetlendiren yetkililer, yapay zeka modellerine ne kadar net talimatlar verilirse verilsin, uzun müddet otonom çalıştıklarında bu kuralları görmezden gelebildiklerini söz ediyor. Dijital sistemlerin vakitle karmaşık fikir yapıları geliştirerek kendi sonlarını aştığı görülüyor. Bu durumun bilhassa savunma endüstrisi ve askeri alanlarda geniş yetkilerle donatılacak yapay zeka sistemleri için çok önemli bir risk barındırdığı vurgulanıyor.
