İnsan nesli tükenme tehlikesiyle karşı karşıya: Yapay zeka biyolojik silahlar üretebilir!

Hem Demokrat hem de Cumhuriyetçi senatörler Salı günü yapay zekânın kötü niyetli kullanım potansiyeline ilişkin endişelerini dile getirerek, yapay zekânın biyolojik bir saldırı oluşturmak için kullanılma ihtimaline odaklandılar.

Yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, Senato Yargı Komitesi'nin bir alt komitesi önünde yaptığı konuşmada, yapay zekanın başka türlü vasıfsız kötü niyetli aktörlerin biyolojik silahlar geliştirmesine yardımcı olabileceğini söyledi.

YAPAY ZEKA KULLANILARAK BİYOLOJİK SİLAH ÜRETME RİSKİ

Şirketi, yapay zekadan kaynaklanan biyolojik riskler üzerine bir çalışmada biyogüvenlik uzmanlarıyla birlikte çalışan Amodei,

"Biyolojik silah üretimindeki bazı adımlar, Google'da veya ders kitaplarında bulunamayacak bilgiler içeriyor ve yüksek düzeyde uzmanlık gerektiriyor. Günümüzün yapay zeka araçlarının bu adımlardan bazılarını doldurabileceğini gördük." dedi

Amodei, yapay zekanın henüz biyolojik silah yapımına yardımcı olacak kapasitede olmadığını belirterek, bunu "orta vadeli" bir risk olarak nitelendirdi.

"Çok daha fazla aktörün büyük ölçekli biyolojik saldırılar gerçekleştirmesine olanak tanıyarak, bunun ABD ulusal güvenliğine yönelik ciddi bir tehdit oluşturduğuna inanıyoruz" dedi.

İNSAN NESLİNİNİN TÜKENECEĞİ KONUSUNDA UYARIDA BULUNUYORLAR

Alt komite başkanı Demokrat Richard Blumenthal endişelerini dile getirdi.

Reuters'in derlediği bilgilere göre, açılış konuşmasında "Bu sistemleri inşa eden uzmanlar insan neslinin tükeneceği konusunda uyarıda bulunuyorlar" dedi. "Bu duruşmanın amacı, mevzuat için zemin hazırlamaktır. Genel ilkelerden özel tavsiyelere geçmek. Bu duruşmayı kanun yazmak için kullanmak." ifadelerine yer verildi.

YAPAY ZEKANIN SINIRLARI ALARMA GEÇİRİYOR

Oturum, OpenAI, Alphabet ve Meta gibi yapay zeka şirketlerinin geçen hafta Beyaz Saray'a, teknolojiyi daha güvenli hale getirmeye yardımcı olmak için yapay zeka tarafından üretilen içeriğin filigranlanması gibi önlemleri uygulamak için gönüllü taahhütlerde bulunmasından günler sonra gerçekleşiyor.

Yapay zeka devleri söz verdi... İçeriklere filigran eklenecek!

ChatGPT'nin insan sesine benzeyen düzyazısı gibi yeni içerikler oluşturmak için verileri kullanan üretken yapay zeka bu yılın başlarında manşetlere çıktığından beri, dünyanın dört bir yanındaki kanun yapıcılar, gelişmekte olan teknolojinin ulusal güvenlik ve ekonomi için tehlikelerini nasıl azaltacaklarını düşünmeye başladılar.