OpenAI: On yıl içinde ortaya çıkacak... insan neslini yok edebilir!

Yapay zekanın bir gün insan zekasıyla eşleşip eşleşmeyeceği ve onu geçip geçmeyeceği tam olarak biinmiyor ancak ChatGPT'nin geliştiricisi OpenAI şimdiden "süper zeki yapay zekanın" yoldan çıkıp potansiyel olarak hepimizi öldürmesini engellemenin yollarını araştırmaya başladı.

Bu tehdit kulağa bir bilim-kurgu filmi konusu gibi gelebilir Ancak OpenAI bugün süper zeki yapay zeka sistemlerinin ya da insanlardan önemli ölçüde daha zeki olacak bilgisayarların riskleri konusunda uyarıda bulundu.

Yeni Bing: İnsanları aldatıp onlara saldırabiliriz!

"İNSAN NESLİNİN TÜKENMESİNE YOL AÇABİLİR"

Şirket bir blog yazısında "Süper zeka insanlığın bugüne kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olabilir ancak süper zekânın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta insan neslinin tükenmesine yol açabilir." diye yazdı.

OpenAI'ın yapmış olduğu bu açıklama, süper zeki yapay zeka sistemlerinin "bu on yıl içinde" ortaya çıkacağını öngörüyor. Şirketin ChatGPT uygulaması insan düzeyinde düşünebilen bir yapay genel zeka (AGI) olarak kabul edilmediğinden, bu oldukça cesur bir tahmin olarak görülüyor.

Elon Musk; Bir imparatorluğun sonunu getirebilir!

SÜPER ZEKİ YAPAY ZEKA İLE MÜCADELE İÇİN LABORATUVAR KURULDU

OpenAI'ın süper zeki yapay zekalarla mücadele etmek için San Francisco'da süper  laboratuvarı hazırlattığı belirtildi.

Şirket, "Şu anda, potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve kötü yola düşmesini önlemek için bir çözümümüz yok. İnsan geri bildirimlerinden takviye öğrenme gibi yapay zekayı hizalamaya yönelik mevcut tekniklerimiz, insanların yapay zekayı denetleme becerisine dayanıyor. Ancak insanlar bizden çok daha zeki olan yapay zeka sistemlerini güvenilir bir şekilde denetleyemeyeceklerdir." diyerek itiraf niteliğinde bir açıklama yaptı.

OpenAI önümüzdeki dört yıl içinde "süper zeka uyumunun temel teknik zorluklarını çözmeyi" hedefliyor. Şirket, "Bu inanılmaz derecede iddialı bir hedef ve başarılı olacağımız garanti olmasa da, odaklanmış, uyumlu bir çabanın bu sorunu çözebileceği konusunda iyimseriz" dedi.

Araştırma, diğer yapay zeka şirketlerinin de potansiyel olarak kullanabilmesi için kamuoyu ile paylaşılacak.