Yapay zekâdan korkuyorlar peki neden durmuyorlar? -1-

“Bugün Anthropic’ten istifa ettim. Son üç yılımı OpenAI ve Anthropic’te pretraining araştırmaları yaparak geçirdim. İki şirket de sorumlu davranmıyor. Kendini geliştiren süperzekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar.”

Yapay zeka araştırmacısı Jacop Coxon’un istifasını duyurduğu bu sözler dünyayı sarstı. Coxon’a göre insanlık, sonuçlarını tam olarak bilmediği bir yarışın içine girdi. Daha önemlisi Coxon yalnız değil. Bu köşeyi takip edenler daha önce de benzer kaygıların dile getirildiğini hatırlayacaktır. AI laboratuvarlarının içinden gelen uyarılar, şirket CEO’larının açıklamaları, Washington’daki düzenleme tartışmaları ve birbiriyle çatışan bilim insanlarının görüşleri aynı sorunun etrafında birleşiyor; “Yapay zekâdaki hız, onu anlama ve kontrol etme kapasitemizi aşıyor mu?”

PARAYI DA MASADA BIRAKTI

Coxon’ın istifasında dikkati çeken bir ayrıntı daha var. Anthropic’teki hisselerini hak edişine yaklaşık iki ay kalmıştı. Beklemedi. Gitti. Yani masada yalnızca kariyer bırakmadı. Para da bıraktı.

- Silikon Vadisi’nde “gelecek model dünyanın en güçlü modeli olacak”, “AGI yaklaşıyor”, “süperzekâ geliyor” gibi iddiaların aynı zamanda yatırım ve pazarlama dili haline geldiğine dair ciddi eleştiriler var. Dolayısıyla her felaket uyarısını sorgulamak gerekir.

- Ama milyonlarca dolara ulaşabilecek bir geleceği geride bırakan bir araştırmacı; “Artık bunun parçası olmak istemiyorum” diyorsa, ne söylediğine biraz daha yakından bakmak gerekiyor.

- Coxon, önümüzdeki bir-iki yılın insanlık açısından kritik olabileceğini söylüyor. Çünkü ona göre yapay zekânın yetenekleri yalnızca artmıyor. Artışın niteliği değişiyor. Kodlama, matematik, bilimsel araştırma, siber operasyonlar ve AI geliştirmek için AI kullanılmaya başlanması.

KENDİSİNİ GELİŞTİREN YAPAY ZEKÂ NE DEMEK?

Bugün insan yapay zekâyı geliştiriyor. Sorun yapay zekânın yapay zekâ geliştirmesi. Sonra ortaya çıkan daha güçlü sistemin, kendisinden de ileri bir sistemin geliştirilmesine daha fazla katkıda bulunması. Ve bu döngü tekrar etmesi. AI literatüründe bunun için kullanılan kavramlardan biri: Recursive self-improvement yani özyinelemeli kendini geliştirme;

- Bu fikir yeni değil. Fakat bugünkü tartışmayı farklılaştıran şey, AI sistemlerinin artık yazılım geliştirme ve AI araştırmasının çeşitli parçalarında gerçekten kullanılmaya başlanması.

- Asıl korku da şu: Eğer yapay zekâ geliştirme süreci giderek otomatikleşirse, bir noktada teknolojik ilerlemenin hızı insanların onu test etme, anlama ve denetleme hızının üzerine çıkabilir mi?

- Bunun gerçekleşeceğini bugün kimse bilimsel kesinlikle söyleyemez. Ama artık ciddi araştırmacılar “Bu ihtimali yok sayamayız” diyor.

‘VAFTİZ BABALARI’ NE DİYOR?

Modern yapay zekânın bugünkü yükselişinde üç isim özellikle öne çıkıyor: Geoffrey Hinton, Yoshua Bengio, Yann LeCun. Üçü de derin öğrenmenin gelişmesindeki çalışmaları nedeniyle 2018’de Turing Ödülü’nü paylaştılar. Bu nedenle dünya basınında sık sık yapay zekânın “Godfathers of AI”-vaftiz babaları olarak anılıyorlar;

- Hinton, son günlerde kendisine “AI’ın insanlığın yok olmasına yol açması için yüzde 10 civarında bir ihtimal sizce mantıksız mı?” diye sorulduğunda; “Mantıksız değil” dedi. Hinton’ın gerekçesi aslında felsefi olarak son derece basit; “İnsanlık daha önce kendisinden daha zeki olabilecek varlıklar yaratmadı.” Dolayısıyla geçmiş deneyimlerimize bakıp; “Nasıl olsa kontrol ederiz” diyemiyoruz. Mesele yapay zekanın yalnızca bizden kurtulmasını engellemek değil. Bizden kurtulmayı hiç istememesini nasıl sağlayacağız? İşte alignment tartışmasının özü de bu.

- Bengio’nun yaklaşımı bana Hinton’dan biraz farklı geliyor. Daha bilim-politika eksenli. 2026 International AI Safety Report’un başkanlığını yaptı. Raporun temel mesajlarından biri şu: AI’ın yetenekleri hızla artıyor. Ama bu sistemlerin nasıl davrandığına ilişkin bilimsel anlayışımız aynı hızda gelişmiyor. Özellikle daha bağımsız hareket eden “agentic AI” sistemleri konusunda belirsizlik artıyor.

Bengio son aylarda özellikle iki olgunun üzerinde duruyor; aldatma kapasitesi ve otonomi. Yani bir sistem, hedefini gerçekleştirmek için bizden bilgi saklamayı veya bizi yanıltmayı öğrenebilir mi? Bengio’ya göre bugünkü kanıtlar gelecekte kesin bir felaket olacağını göstermiyor. Ama risklerin araştırılmasını gerektirecek kadar ciddi sinyaller var. Bu nedenle son dönemdeki önerisi kendi hedeflerini gizlice takip etmeyen, dünyayı anlamaya ve güvenilir bilgi sağlamaya odaklanan farklı bir AI mimarisi.

m Burada bilimsel tartışmanın belki de en önemli kişisi devreye giriyor; Yann LeCun. Çünkü LeCun, Hinton ve Bengio’nun varoluşsal risk yaklaşımına büyük ölçüde karşı çıkıyor. Daha önce Meta’nın baş AI bilim insanı olan, Turing Ödüllü LeCun’a göre ise AI’ın insanlığı yok edeceği anlatısı büyük ölçüde abartılıyor. LeCun’un temel itirazı şu; “Zeki olmak, egemen olmak istemek anlamına gelmez.” Ona göre zekâ ile iktidar arzusu aynı şey değil. LeCun’a göre asıl tehlikelerden biri, felaket senaryoları yüzünden teknolojinin birkaç dev şirketin elinde kapatılması. Bu nedenle açık modelleri savunuyor. AI yalnız birkaç şirketin elinde olursa hem teknolojik hem siyasi güç yoğunlaşır.