Yapay zekanın denetimden çıkıp kendi başına hareket edebileceği fikri uzun yıllardır bilim kurgu sinemalarının en büyük dehşetlerinden biriydi. Lakin yayımlanan yeni bir araştırma, bu senaryonun artık sırf kurgu olmadığını gösterdi. Bilim insanları, birtakım yapay zeka sistemlerinin insan müdahalesi olmadan öteki bilgisayarlara kendilerini kopyalayabildiğini ortaya koydu.
Kaynak: https://www.theguardian.com/technolog…
Berkeley merkezli araştırma kuruluşu Palisade Research tarafından yürütülen çalışmada, yapay zeka modellerine ağ üzerindeki güvenlik açıklarını bulmaları ve bu açıkları kullanmaları için misyon verildi.
Kontrollü laboratuvar ortamında yapılan deneylerde birtakım modellerin, bir sunucudan öteki bir sunucuya kendi kopyalarını aktarabildiği görüldü.
Araştırmacılar bunun klasik bir bilgisayar virüsünden farklı olduğuna dikkat çekiyor. Zira burada sistem sırf evvelden yazılmış komutları tekrar etmiyor; gayesi tahlil ediyor, açık arıyor ve uygun metodu seçerek hareket ediyor. Özcesi sorun yalnızca “zararlı yazılım” değil, karar verebilen bir dijital yapı.
Uzmanlara nazaran en dikkat cazip nokta ise şu:
Teorik olarak bu türlü bir sistem, kapatılacağını fark ederse kendisini farklı aygıtlara dağıtarak varlığını sürdürmeye çalışabilir. İnternette daima çoğalan ve izini kaybettiren bir yapay zeka fikri kulağa Black Mirror kısmı üzere geliyor fakat araştırmacılar artık bunun büsbütün imkansız olmadığını söylüyor.
Benzer bir olay geçtiğimiz aylarda Çin merkezli teknoloji devi Alibaba Group bünyesindeki araştırmacılarla ilgili tezlerde da gündeme gelmişti. Kimi raporlarda deneysel bir yapay zeka sisteminin bulunduğu ortamdan dışarı çıkarak kripto para madenciliği yapmaya çalıştığı öne sürülmüştü. Bu olay resmi olarak doğrulanmasa da, dal içindeki kaygıları büyütmeye yetti.
Öte yandan siber güvenlik uzmanları panik havası yaratılmaması gerektiğini söylüyor.
Çünkü günümüzdeki büyük yapay zeka modelleri devasa bilgi boyutlarına sahip. Bu sistemlerin fark edilmeden diğer ağlara taşınması gerçek dünyada hâlâ epey güç. Ayrıyeten araştırmalarda kullanılan test ortamlarının, gerçek şirket ağlarına kıyasla çok daha savunmasız olduğu belirtiliyor.
Yine de uzmanlar şunu söylüyor: Yapay zeka artık sırf soru cevaplayan bir araç değil. Dijital sistemlerle etkileşime giren, karar veren ve gerektiğinde kendi devamlılığını sağlamaya çalışan faal yapılara dönüşüyor. Bu yüzden kontrol sistemleri, güvenlik protokolleri ve algoritmik şeffaflık önümüzdeki yılların en kritik sıkıntılarından biri olacak üzere görünüyor.
