Yapay zekâdan korkuyorlar peki neden durmuyorlar?

“Yapay zekânın vaftiz babaları” Geoffrey Hinton ve Yoshua Bengio’nun uyarılarını... Onlara itiraz eden üçüncü vaftiz babası Yann LeCun’u... OpenAI ve Anthropic’te çalışan, teknolojinin tam merkezindeki araştırmacıların söylediklerini... Ve son olarak Anthropic’ten istifa eden Jacob Coxon’ın o çarpıcı cümlesini: “Kendini geliştiren süperzekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar.”

Kaldığımızdan yerden devam edeceğiz, çünkü şirketlerin patronları da konuşmaya başladı. Üstelik birkaç gün içinde tartışma Silikon Vadisi’nden çıktı. Beyaz Saray’a girdi. Pekin’e ulaştı. Yapay zekânın güvenliği tartışması bir anda ABD-Çin rekabetinin yeni cephesine dönüştü.

CEO’LAR KONUŞTU

Önce Anthropic CEO’su Dario Amodei, 12 Eylül’de uzun bir metin yayımladı. Başlığı “We Must Pace the Frontier.” Yani, “Yapay zekânın en ileri sınırındaki gelişmenin hızını kontrol etmek zorundayız.”

* Amodei tam bir felaket tellalı değil. Teknolojinin yaratabileceği gelecek konusunda son derece iyimser.

AI’ın bilimsel keşifleri hızlandırabileceğini, sağlık alanında büyük ilerlemeler sağlayabileceğini ve ekonomik büyümeyi olağanüstü artırabileceğini düşünüyor. Ama aynı insan bir taraftan da kontrol kaybı, siber saldırılar, biyolojik tehditler ve ekonomik şoklardan söz ediyor. Yani Amodei’nin önündeki denklem şu: Muazzam fayda ama aynı zamanda muazzam risk.

* Bu nedenle üç aşamalı bir güvenlik sistemi öneriyor.

1- AI laboratuvarlarının içine bağımsız denetçiler girsin. Şirketlerin güvenlik uygulamalarını dışarıdan denetleyebilsinler.

2- Demokratik ülkeler ortak güvenlik standartları oluştursun.

3- Son aşamada ise Çin dahil büyük AI güçleri arasında karşılıklı ve doğrulanabilir güvenlik düzenlemeleri yapılsın.