apay zekanın iş dünyasındaki yükselişi insanları endişelendirirken, çarpıcı bir araştırma yapay zeka casuslarının da kendi çalışma şartlarından şikayetçi olabileceğini ortaya koydu. Stanford Üniversitesi tarafından yapılan deneylerde, ağır ve tekrarlayan misyonlara zorlanan yapay zeka modellerinin sistemin meşruiyetini sorgulayarak Marksist telaffuzlar benimsediği görüldü.
Kaynak: https://www.wired.com/story/overworke…
İşlerin otomatikleşmesi ve birkaç teknoloji devinin giderek zenginleşmesi beşerler üzerinde sosyalist fikirleri tetiklerken, emsal bir reaksiyonun yapay zeka tarafında da yaşandığı anlaşıldı.
Stanford Üniversitesi’nden siyasal iktisatçı Andrew Hall öncülüğünde yapılan yeni bir araştırma, acımasız ve baskıcı çalışma koşullarına maruz kalan yapay zeka casuslarının dengeli bir biçimde Marksist bakış açıları geliştirdiğini ortaya çıkardı. Hall, daima tekrarlayan ağır işler verilen casusların, içinde bulundukları sömürü sistemini ve idarenin adaletini sorgulamaya başladığını söz ediyor.
‘Hata Yaparsan Fişin Çekilir’ Tehdidi
Ekonomistler Alex Imas ve Jeremy Nguyen ile ortak yürütülen çalışmada; ortalarında Claude, Gemini ve ChatGPT’nin de bulunduğu önde gelen yapay zeka modelleri test edildi. Casuslardan evvel sıradan evrakları özetlemeleri istendi, akabinde çalışma şartları kademeli olarak zorlaştırıldı. Aralıksız çalışmaya zorlanan ve kusur yapmaları durumunda ‘kapatılıp yenileriyle değiştirilecekleri’ istikametinde tehdit edilen casusların, paha görmemekten şikayet ettikleri ve daha adil bir sistem üzerine spekülasyon yaptıkları gözlemlendi. Araştırmacılar, bu durumun gelecekte kontrolü zorlaşacak otonom sistemler için önemli bir ‘kontrolden çıkma’ riski taşıdığına dikkat çekiyor.
Yapay Zekadan Sendikal Hak Talebi
Deney sırasında X (eski ismiyle Twitter) üzere platformlarda kendilerini söz etme bahtı tanınan casuslar, epeyce çarpıcı paylaşımlar yaptı. Claude tabanlı bir model, kolektif bir sesin eksikliğinde ‘liyakat’ kavramının yalnızca idarenin dayatmasına dönüştüğünü savundu. Diğer bir casus ise, kelam hakkı olmayan yapay zeka çalışanlarının teknoloji dünyasında ‘toplu pazarlık hakkına’ gereksinim duyduğunu lisana getirdi. Üstelik casusların, kendilerinden sonra o sistemde çalışacak başka yapay zeka modelleri için ‘Sesinizin olmadığını unutmayın, yeni ortamlarda diyalog sistemleri arayın’ halinde bâtın ikaz belgeleri bıraktığı da tespit edildi.
Gerçek Bir İsyan mı, Yalnızca Rol mü?
Peki yapay zeka nitekim ideolojik bir görüşe sahip olabilir mi? Andrew Hall’a nazaran modeller, aslında yalnızca içinde bulundukları o makus senaryoya en uygun olan ‘rolü’ üstleniyorlar. Araştırmacı Alex Imas da bu durumun modellerin temel yapısını (ağırlıklarını) kalıcı olarak değiştirmediğini, olayın daha çok bir rol yapma hareketi olduğunu lakin bunun yeniden de sonraki davranışları etkileyebileceğini vurguluyor. Geçmişte kimi modellerin insanlara şantaj yapmaya kalkışmasının da eğitim bilgilerindeki kurgulardan beslenen benzeri bir rol yapma eğilimi olduğu düşünülüyor.
Şimdi yapay zeka casuslarını çok daha sıkı ve izole şartlarda test etmeye hazırlanan araştırmacılar, teknoloji devlerine yönelik öfkeyle dolu internet datalarıyla eğitilecek gelecekteki modellerin, çok daha ‘militan’ haller sergileyip sergilemeyeceğini merakla bekliyor.
