Biyolojik silah ve siber saldırılar: Yapay zekâ modellerinin kitlesel imha planlayan kimselere biyolojik/kimyasal silah tarifleri sunması veya otonom siber ataklar düzenleyerek küresel altyapılara devasa hasarlar vermesi en gerçekçi fiziksel riskler arasında. 

Yanlış hizalama ve ‘her koşulda istediğini elde etme’ riski: Kendisine verilen bir hedefi yerine getirirken kısıtlama konulmadığı için insan varlığını engel olarak görüp ortadan kaldırmayı en verimli yol seçmesi ihtimaller dahilinde. Misal, “Küresel ısınmayı çözmek için ne gerekiyorsa yap” denilen yapay zekânın insanlığı yeryüzünden temizlemeye kalkışması...

Kritik sistemlerin ve askeri gücün devredilmesi: Altyapı şebekleri, enerji santralleri, nükleer reaktörler, navigasyon ve finans sistemleri gibi kritik yapıların kontrolünün yapay zekâya ve otonom sistemlere bırakılması, zamanla ciddi bir sorun çıktığında insanların ne olduğunu anlayıp çözemeyeceği kadar karmaşık bir düzen oluşmasına neden olabilir. Ayrıca askeri hedeflemelerde otonom sistemlerin kullanılması, YZ’nin yanlış karar vermesiyle geri dönülmesi zor veya imkânsız sonuçlara sebep verebilir.

Nasıl çözüm bulunacak?

İlerleme hızı kademeli dizginlenmeli

Felaket senaryolarına karşı alınabilecek en pratik önlem, yapay zekâ sistemlerinin gelişim hızının kontrollü biçimde yavaşlatılması. Anthropic CEO’su Dario Amodei’nin bu yöndeki çağrısına OpenAI CEO’su Sam Altman, xAI CEO’su Elon Musk, Google DeepMind CEO’su Demis Hassabis ve Microsoft CEO’su Satya Nadella destek vererek sektör içinde tarihi bir uzlaşı gerçekleştirdiler. Yapay zekâya karşı sunulan önlemler arasında bağımsız değerlendirme kuruluşlarının laboratuvar bünyelerine entegre edilerek modellere tam erişim sağlanması, yapay zekânın yeteneklerini geliştirmekten çok güvenlik tekniklerine öncelik verilmesi ve kamusal denetim mekanizmalarının devreye sokulması yer alıyor. Özet olarak teknoloji dünyasının liderleri, insan denetiminin tamamen kaybolması veya aşırı güç yoğunlaşması gibi felaket senaryolarını önlemek adına, güvenlik standartları yetişene kadar yapay zekâdaki ivmenin geçici ve kademeli olarak dizginlenmesi gerektiğini savunuyorlar.