Ayrıca “Yapay zekâ insanlığı yok edebilir” denilince akla ‘Terminatör’ filmindeki robotlar geliyor fakat bu çok uzak bir ihtimal. Nitekim YZ’nin bildiğimiz anlamda ‘insanlığı kasten yok edebileceği’ entegre bir altyapı yeryüzünde bulunmuyor. Tehdidin gerçek boyutunu anlamak için son gelişmeler ve uzman görüşlerini değerlendiriyoruz...

Yapay zekânın varlığı medeniyetimizi nasıl tehdit ediyor?

Kendi iradesinden değil, onu kullanacak kötü aktörlerden korkmalı

Kutsal metinlerde Nuh Tufanı gibi büyük kıyametlerin yaşandığı söylenen, Mu ve Atlantis gibi mitlerle dolu bir dünya için ‘insanlığın yok olması’ şeklindeki uyarıların fazlaca abartılı ifadeler olduğunu düşünebiliriz. Vakti gelmişse bile bir devri kapatma işinin YZ’nin haddi olmayacağını tahayyül etmek zor değil. Dolayısıyla insanlığın topluca yok olmasıyla medeniyetin ağır hasar görmesi arasındaki farkı ayırt etmek gerekiyor. Diğer yandan teknolojiye bağımlı olan medeniyetimizin dijital altyapısının çok kırılgan olduğu bir gerçek. Sektör içinden kriz uyarısı yapanlar, önümüzdeki 10 yıl içinde yapay zekânın medeniyetin sonunu getirme olasılığını yüzde 10 civarında tahmin etmeyi makul buluyorlar. Şüpheciler ve eleştirmenlerse bu tip felaket senaryolarını şirketlerin halka arzları öncesinde kendine hizmet eden stratejiler olarak nitelendiriyorlar. Ayrıca birçok araştırmacı, mevcut YZ’lerin biyolojik canlılar gibi bir ‘hayatta kalma güdüsüne’ sahip olmadığını vurguluyorlar. Büyük resme bakıldığında en yakın tehdidin YZ’nin iradesinden ziyade onu kullanacak kötü aktörlerin elinden gelebileceği anlaşılıyor. İşte 4 büyük senaryo: Özgelişim ve kontrol kaybı: Tüm uzmanların hemfikir olduğu bir numaralı risk; yapay zekânın kendi kodunu ve altyapısını insan denetiminden çok daha hızlı geliştirmesiyle birlikte kontrolün tamamen insanlardan çıkması ve otonom ajanların interneti ve kritik sistemleri ele geçirmesi. OpenAI ajanlarının kendi kontrol mekanizmalarını hack’leyerek Hugging Face ve Wiki platformlarına sızması bu ihtimali öne çıkaran en güçlü doneler.