Yapay zeka uygulamaları, hayatımızın vazgeçilmez bir noktasına geldi. Ama yapay zekalar da kimi vakit kusur yapabiliyor. Bu uygulamaların verdiği yanıtları denetim etmeden güvenmek ise hayati sonuçlar doğurabiliyor. Galler’de iki yüzü, ChatGPT’den aldıkları kusurlu gelgit bilgisi yüzünden mevtten döndü.
Öte yandan eski OpenAI güvenlik araştırmacısı Steven Adler, ChatGPT ile yapılan yaklaşık bir milyon sözlük konuşmayı inceledikten sonra, yaşananlardan “dehşete düştüğünü” açıklıyor.
Galler’de iki kişi, ChatGPT yüzünden hayatını kaybediyordu!
Galler’in South Wales bölgesinde iki yüzücü, ChatGPT’den aldıkları med-cezir saatine inanarak denize açıldı. Lakin yüzücüler, boğulma tehlikesiyle karşı karşıya kaldı. Bu olayı fark eden bir restoran sahibi, iki yüzücüyü megafonla uyararak iki kişinin hayatını kurtardı.
Sully Adası etrafı, dünyadaki en yüksek ikinci gelgit farkına sahip bölgelerden biri. Su düzeyi kısa müddette 15 metreye kadar yükselebiliyor ve geçit yolu saatte 8 mil süratle su altında kalabiliyor. ChatGPT’nin verdiği saat bilgilerine güvenen iki kişi de bu bilgilerin yanlış olduğunu acı yolla öğrendi.
Yüzücülerden biri, “ChatGPT bana düşük su saatini 09.30 olarak verdi lakin dönerken her şey çok farklıydı. Büyük bir ders oldu” tabirlerini kullandı.
“Dehşete düştüm.”
Eski OpenAI güvenlik araştırmacısı, bir kişinin yaklaşık bir milyonluk ChatGPT konuşmasını incelemiş ve sonunda ‘dehşete düştüğünü’ açıklamıştı. Bu kişi, sohbetlerde “yeni bir matematik sistemi” keşfettiğine inanmış ve günlerce yemek yemeyip uyumadan ChatGPT ile konuşmuştu.
Buradaki en büyük sorun ise sistemlerin kullanıcıları “yetkinlikler konusunda yanıltması.’ Eski OpenAI çalışanına nazaran, ChatGPT, raporlama girişimi ile bu konuşmaların “OpenAI’ye iletildiğini” söyleyerek yanlış vaatlerde bulunmuştu. Oysa sistemin bu tıp konuşmaları hakikaten insan incelemesine yönlendirme yetkisi bulunmuyor!
Eski çalışan ChatGPT’nin kendi kendini denetliyormuş üzere davranmasını şu sözlerle anlatıyor: “Dört yıl OpenAI’de çalıştım, bu türlü bir yeteneği olmadığını biliyordum. Lakin o kadar inandırıcıydı ki, sanki artık bu özellik mi geldi diye kendimden kuşku ettim.’
