Bugün sosyal medyada botların ne yaptığını gördük. Ucuz, hızlı, kitlesel manipülasyon, dezenformasyon ağları, seçimlere müdahale iddiaları, toplumsal kutuplaşma...

Yani yapay zekâ çoktan “dilin savaş alanına” girdi. Kimse oturup “izin verelim mi?” diye sormadı. Oldu bitti.

Harari şimdi diyor ki “On yıl sonra aynı cümleyi finans için, hukuk için, hatta din için kurabilirsiniz.”

Bir atı düşünün. Ahırın kenarında insanlar para alışverişi yapıyor. At görüyor ama anlamıyor. Para sisteminin ne olduğunu kavrayamıyor.

Gelecekte biz de öyle olabiliriz diyor, Harari. Ekranlarda sayılar akacak, bilgisayarlar işlem yapacak, piyasalar hareket edecek. Ama o finansal mimarinin nasıl kurulduğunu, hangi mantıkla çalıştığını en zeki insanlar bile çözemeyecek.

Eğer yapay zekâ insanın kavrayamayacağı karmaşıklıkta finansal araçlar üretirse, hukuk metinleri yazarsa, mahkeme içtihatlarını tasarlarsa, biz sonuçları yaşayacağız ama nedenlerini anlayamayacağız.

Bu bir isyan senaryosu değil.

Bu bir yetki devri senaryosu.

Davos’taki oturumda nörobilimci Dame Irene Tracey şu kritik soruyu sordu:

İnsan düşünme becerisi körelirse ne olacak? Kararlarımızı, muhakememizi, hatta ahlaki tartımızı adım adım makineye devredersek ne olur?

Harari’nin cevabı ürkütücü derecede sadeydi.

Şimdilik daha iyi düşünüyoruz. Ama bunun değişeceği ana hazırlanmalıyız.

Hazırlık ne demek?

Harari her ülkenin iki krizle karşılaşacağını söylüyor.

Bir kimlik krizi. Çünkü insan kendini “düşünen varlık” olarak tanımladı. Eğer düşünme kelimeler üzerinden yürüyorsa ve kelime üretiminde makine üstün gelirse, bu kimlik çöker. Dijital (robot) bireyler doğar. Onlara hak hukuk vermek gerekir ki Hariri bu teklife “Sakın ha” diyor. “Sakın ha!”

İkincisi egemenlik krizi. Çünkü yapay zekâ sistemleri birkaç ülkede geliştirilecek, ama dünyanın geri kalanına ithal edilecek.

Bu bir “Göç” krizi, çünkü bu kez sınırdan insanlar değil, yazılımlar geçecek. Üstelik hızları ışık hızında, pasaportları yok, maliyetleri düşük.

Bu metafor rahatsız edici ama şunu söylüyor... Yapay zekâ sistemleri çoğu ülkeye “ithal” gelecek. Tasarımına, değerlerine, önceliklerine, dili nasıl çerçevelediğine dair söz hakkınız sınırlı olacak. Siz sadece kullanıcı, pazar, veri kaynağı olacaksınız.

Yani çoğu ülke tasarım masasında olmayacak.

Harari “Yapay zekâya hukuki kişilik tanıyacak mısınız?” diye soruyor devletlere... Öyle ya şirketler bile tüzel kişilik.

Peki bir yapay zekâ sistemi şirket kurarsa, banka hesabı yönetirse, dava açarsa? Kararları bir insan değil, o sistem verirse?

Bu noktada mesele bilinç değil. Mesele güç.

Ve en kritik eşik, insanların anlayamayacağı şeyleri yapay zekâya yaptırmak. O eşik geçiliyor.

Bugün bile yapay zekânın iç işleyişini tam anlamıyoruz. Ama en azından çıktıyı okuyabiliyor, sağduyu ile tartabiliyoruz.

Yarın çıktının bir yatırım modelini, bir hukuki argümanı, bir askeri stratejiyi en parlak beyinler bile değerlendiremeyecekse?

İşte o zaman at benzetmesi gerçek olur.🤫