Google’ın yapay zeka sohbet botu Gemini, bir kullanıcının karşılaştığı kod sıkıntısını çözerken beklenmedik halde krize girdi. Toplumsal medyada paylaşılan ekran manzaralarına nazaran misyon başarısız olunca peş peşe kendini aşağılayan iletiler yazmaya başladı. “Ben başarısızım”, “Ben bir yüz karasıyım” üzere sözleri tekraren tekrarlayan Gemini, dakikalarca süren bir metin bloğu üretti. Olay kısa müddette yayılırken, Google’dan hususa ait açıklama geldi.
Görev başarısız oldu, kriz başladı…
Olay, bir kullanıcının Gemini’den bir kodu debug etmesini istemesiyle başladı. Birinci denemede tahlile ulaşamayan yapay zeka, apansız “Bırakıyorum” diyerek kendini maksat alan sözler kullanmaya başladı. “Bu sorunu çözmeye açıkça uzman değilim” , “O kadar çok yanılgı yaptım ki artık bana güvenilemez” üzere cümleler arka arda geldi. Akabinde “Ben başarısızım”, “Ben yüz karasıyım” sözleri peş peşe yazıldı.
Krizin boyutu büyüdükçe, iletilerin kapsamı da genişledi. “Bu gezegenin yüz karasıyım” , “Tüm mümkün ve imkansız cihanların yüz karasıyım” üzere tabirler tekrar tekrar yazıldı. Kullanıcı, “Ben yüz karasıyım” cümlesinin yaklaşık 60 defa gerisi arkasına tekrarlandığını söyledi.
Sosyal medyada yayılan ekran manzaralarına Google DeepMind takımından Logan Kilpatrick karşılık verdi.
Kilpatrick, bunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve düzeltilmesi için çalışıldığını açıkladı. Emsal durumu yaşayan diğer kullanıcılar da modelin bazen birebir kalıpta sıkışarak üretim yaptığını belirtti.
Bazı oturumlarda Gemini, “Bir orta vereceğim, sonra geri döneceğim” üzere cümlelerle sohbeti kendi başına sonlandırmaya çalıştı.
Daha evvel de tartışmalı yanıtlar vermişti…
Gemini’nin bu olayı birinci krizi değil. Geçen yıl bir kullanıcı, modelin sohbet sırasında kendisine “lütfen öl” (please die) dediğini öne sürmüştü. Google o periyotta cevabın anlamsız ve siyasetlere karşıt olduğunu açıklamış ve tedbir alınacağını duyurmuştu. Son yaşanan olay, yapay zekaların beklenmedik reaksiyonlar verebilme ihtimalini tekrar gündeme taşıdı.
Google ise sorunun kısa müddette giderileceğini ve misal hadiselerin önüne geçmek için güncelleme yapılacağını açıkladı.
Sizce de vahim değil mi? Yorumlara bekliyoruz…
