BELKİ DE YENİ SİLAH KONTROLÜNÜ KONUŞUYORUZ

Yapay zekâyı nükleer silaha birebir benzetmeyi doğru bulmuyorum. Çünkü AI eğer doğru kullanabilirse ve sınırlamalar konulursa insanlığa fayda getirecektir. Ancak AI ile nükleer yarış arasında bir benzerlik var:

* 20’nci yüzyılda “Onların kaç nükleer başlığı var?” diye soruyorduk. 21’inci yüzyılda “Onların modeli ne kadar güçlü?” diye sorabiliriz.

* Ve belki bir gün Washington ile Pekin arasında çiplerin, dev veri merkezlerinin ve frontier modellerin konuşulduğu bir çeşit “AI silah kontrolü diplomasisi” göreceğiz.

MUAZZAM FAYDA İHTİMALİYLE MUAZZAM RİSK İHTİMALİNİ AYNI ANDA NASIL YÖNETECEĞİZ? KÖTÜ AI MI, KÖTÜ İNSAN + ÇOK GÜÇLÜ AI MI?

Ben araştırdıkça başka bir soruya daha fazla takılıyorum. Hollywood bize hep aynı hikâyeyi anlattı. Makine bilinç kazanır. İnsanlardan nefret eder. Ve saldırır. Oysa yakın geleceğin riski bundan çok daha sıradan olabilir:

* Kötü insan + çok güçlü AI. Bir devlet. Bir istihbarat servisi. Bir terör örgütü. Bir suç şebekesi. Bir hacker.

Ya da sadece rakibini geçmek için güvenlik sınırlarını zorlayan bir şirket.

* AI’ın insanlardan nefret etmesine gerek yok. İnsanın kötü niyetini olağanüstü etkin biçimde uygulaması yeterli.

Ve bu nedenle bugünün gerçek risklerini yarının varsayımsal kıyametine kurban etmemek gerekiyor.

* Siber saldırılar, dolandırıcılık, deepfake, dezenformasyon, biyolojik risk, iş gücü dönüşümü, gözetim ve tüm bunların birkaç şirketin elinde yoğunlaşması. Bunların bazıları gelecek senaryosu değil. Bugünün meselesi. Üstelik bunların komutlarını veren insanlar...

PEKİ GERÇEKTEN HEPİMİZİ ÖLDÜREBİLİR Mİ?

Burada yine frene basmak gerekiyor.

Bugün elimizde:

“AI insanlığı yok edecek” diyebileceğimiz bilimsel kesinlik yok. “AI hepimizi öldürecek” demek için kanıt yok.

Ama “Böyle bir risk kesinlikle yok” demek için de yeterli bilgi yok. Belki en doğru yaklaşım şu; ne ütopya, ne kıyamet. Kanıt geldikçe risk hesabını yeniden yapmak.

* Tartışma yapay zekânın ne kadar zeki olacağı tartışmasını aştı. Asıl mesele onu kimin kontrol edeceği? Sınırlama konulup konulamayacağı ve nasıl sınırlamalar konulacağı?

* Can alıcı bir başka soru; herkes fren istiyorsa o fren pedalına çok geç olmadan kim basacak? Çünkü herkes birbirine bakarken yapay zekâ gelişmeye devam ediyor.