Yapay zeka araştırmacısından ürküten sözler: Hepimizi öldürebilir

Anthropic'in önde gelen güvenlik araştırmacılarından Evan Hubinger, yapay zekânın gelişme hızına ilişkin dikkat çeken bir uyarıda bulundu. Hubinger, önümüzdeki 10 yıl içinde yapay zekânın "tüm insanları öldürme" ihtimalinin yüzde 10'dan fazla olduğuna inandığını söyledi.

Yapay zekâ teknolojilerindeki hızlı gelişim, beraberinde güvenlik ve kontrol tartışmalarını da büyütüyor. Anthropic'te yapay zekâ uyumu ve güvenliği üzerine çalışan Evan Hubinger, teknolojinin insanlık açısından oluşturabileceği risklere ilişkin çarpıcı değerlendirmelerde bulundu.

"YÜZDE 10'DAN FAZLA"

Hubinger, X hesabından yaptığı açıklamada mevcut yapay zekâ modellerinden kaynaklanan riskin düşük olduğunu ancak teknolojinin hızla gelişmesi ve kendi gelişimini hızlandırabilecek seviyelere ulaşması halinde durumun değişebileceğini belirtti.

Araştırmacı, önümüzdeki 10 yıl içerisinde yapay zekânın "tüm insanları öldürmesi" ihtimalini yüzde 10'dan fazla gördüğünü ifade etti. Hubinger, böyle bir senaryonun tam olarak nasıl gerçekleşebileceğine ilişkin ise ayrıntılı bir mekanizma ortaya koymadı.

"SÜPER ZEKÂ İÇİN BİR PLANIMIZ YOK"

10 milyondan fazla görüntülenen paylaşımında Hubinger, yapay zekânın insanlığın varlığını tehdit edebileceğine gerçekten inandığını belirtti.

Hubinger, "Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum ancak süper zekâ için uyum sorununu çözecek bir planımız henüz yok ve bu yönde net bir ilerleme kaydetmiyoruz" ifadelerini kullandı.