Yapay zekâ 3: Yavaşlama ama nasıl?

Geldik üçüncü yazıya. Nerede kalmıştık? En büyük YZ şirketlerinin tepe yöneticileri birdenbire bir “aydınlanma” yaşamış gibi yapay zekanın ne kadar tehlikeli olduğunu söylemeye başlamışlardı.

Evet, birkaç gündür arka arkaya OpenAI, Anthropic gibi şirketlerden “Aman bu işe devlet el atsın. Bu hızla insanlığın sonu gelecek” açıklamaları duyuyoruz.

İlginç değil mi? 

Alanın en önemli isimleri yıllardır OpenAI yahut Anthropic gibi şirketleri uyarıyordu. Hiçbirine kulak asmadılar. “Aman o benden ileriye gitmesin” diyerek büyük bir rekabet içinde olağanüstü bir hızla modellerini geliştirmeye devam ettiler.

Sonra kafalarına tuğla düşmüş gibi bir günde bambaşka şeyler söylemeye başladılar. Burada bir tuhaflık yok mu?

Anthropic CEO’su Daria Amodei önceki gün bir röportaj verdi ve “Gerekirse otoriter ülkelere, Çin’e gidip anlatalım. Bakın burada hepimizi ilgilendiren bir tehlike var diyelim. Sorun sadece YZ’nın kontrol dışına çıkması değil, bir sürü insan YZ’yı biolojik silah yapmak için kullanıyor” dedi. 

Ne güzel. Ama neden şimdi?

Pek çok insan haklı olarak bu açıklamaları samimi bulmuyor ve aynı soruyu soruyor: Ne oldu?

Büyük şirketlerin bu çıkışına dair en güçlü itiraz asıl amacın kontrolü tamamen ele geçirme arzusu olduğunu ileri sürenlerden geliyor. Bu gruba göre şu anda ortalığa bir YZ korkusu salınıyor. Korku beraberinde kısıtlamaları, yani bir nevi otoriterleşmeyi getirecek.

İnsanları “kıyamet” senaryolarıyla korkuttuktan sonra YZ alanına yasaklar konulacak. Yasaklardan büyük şirketler ne kadar etkilenecek? Yahut başka deyişle, bu yasaklar açık kaynak yazılımlarla daha küçük (ama daha az tehlikeli) işler yapan küçük bütçeli ve görece daha bağımsız geliştiricileri mi vuracak? Böylelikle büyük şirketler arkalarına devletlerin gücünü alarak alanda at koşturmaya devam mı edecek?

Bakın size bir örnek vereyim: New York Times gazetesi daha YZ meselesinin ilk günlerinde OpenAI’a bir dava açmıştı. Times’a göre OpenAI modellerini eğitirken gazetenin devasa arşivini izinsiz kullanmıştı. Bu dava hala devem ediyor.

Geçenlerde görülen bir duruşmada ABD hükümetinin mahkemeye ilettiği bir yazı okundu. Bir “tavsiye” niteliğindeki yazıda Trump yönetimi mahkemeye açık açık OpenAI’ın bu süreçten zarar görmemesi talebini şu cümlelerle iletiyordu: "Amerika Birleşik Devletleri’nin küresel ölçekte YZ kullanım uygulamaları ve prosedürleri için standartları belirleyen, güçlü ve rekabetçi bir YZ endüstrisinin geliştirilmesini sürdürme konusunda büyük çıkarı bulunmaktadır... Bu doğrultuda, ABD'nin 'yapay zeka alanındaki küresel liderliğini koruması' kritik önem taşımaktadır."

Yani Amerikan hükümeti diyor ki, “Yarıştayız, bırakın çocuklar bildiklerini yapsın çünkü yarışı benim kazanmam lazım.”

Bir başka eleştiri de şu: Yahu zaten alanı siz (OpenAI ve Anthropic) domine ediyorsunuz. Yavaşlamak ve hatta durmak için regülasyonları yahut bir yasak gelmesini niye bekliyorsunuz? Durun o zaman. Elinizi tutan mı var?

Öyle ya. Bugün OpenAI “Ben bu ‘alignment’ (YZ’nın insanın etik sınırlarıyla hizalanması) meselesine daha fazla önem vermek istiyorum. Bu nedenle yavaşlıyorum, bütçemin büyük kısmını buraya kaydırıyorum” dese kim “Hayır, sen insanlığın sonunu getirene kadar zeki modeller geliştirmeye devam etmek zorundasın” diyebilir?

Tabii böyle bir senaryonun önünde bir engel var: Sermaye!

Zaten bu noktaya da böyle geldik. Evet, YZ çok büyük gelişme gösterdi, sadece birkaç yılda inanılmaz ilerleme kaydedildi ama bir yandan da 2025 geliştirilen modellerin iş dünyasına uyarlanmasında beklenen sonucun alınamadığı bir yıl oldu. Neredeyse 500 milyar dolarlık yatırım YZ şirketlerine akmış, buna karşın yüksek hata payı nedeniyle işlerin insan gücüne ihtiyaç duymadan modellere devredilmesi noktasında istenen ilerleme kaydedilememişti.

2026 bu açıdan kritikti. Sermaye yatırdığı paranın dönüşünü bekliyordu. Hatta bu yılın başında “Yapay zeka endüstrisi bir balon mu” başlıklı yazılar çıkmaya başlamıştı. O yüzden gaza basıldı ve sadece 7-8 ayda geldiğimiz nokta işte bu. 

İtirazlardan biri de tanıdık bir isimden geldi: Daron Acemoğlu. Acemoğlu asıl problemi ilginç bir tanımlamayla tarif ediyordu: “Sorun ‘fazla gelişmiş’ bir yapay zeka mı yoksa çarpık zeka mı?”

Özetle Acemoğlu YZ’nın sanıldığı gibi süper zekaya doğru gittiğine dair elimizde bir kanıt olmadığını, asıl problemin eldeki zekanın nasıl kullanılmasından kaynaklandığını ileri sürüyordu. Araba örneği veriyordu: Elimizde süper güçlü bir araba yok, sadece freni ve direksiyonu çalışmayan normal bir araca sahibiz.

Yani Acemoğlu’nun dillendirdiği dördüncü itiraz şunaydı: Modeller kafasına göre davranıyorsa, sizin komutlarınıza karşı çıkıyorsa, yasaklarınızı umursamadan internette gezinip başka şirketlerin altyapılarını hack’liyorsa bu sizin eseriniz değil mi? Arabayı direksiyonsuz yaptınız, ortaya çarpık bir YZ çıkardınız ve şimdi “Ya bu çok tehlikeli oldu, ne yapsak acaba” mı diyorsunuz? 

Ve gelelim ekonomi alanından gelen son itiraza: Biliyorsunuz, YZ şirketleri buraya kadar yatırım fonlarından aldıkları trilyon dolar seviyesinde paralarla geldiler. Yüz milyarlarca dolarlık çip satın aldılar, stajyerlerine bile yıllık yüz binlerce dolar maaş verdiler, hidroelektrik, nükleer ve hatta füzyon enerji santrallerine paralarını gömdüler.  

OpenAI ve Anthropic’in bu yıl içinde halka arz edilmesi bekleniyordu. İki şirketin de 2 trilyon dolar gibi akıllara durgunluk veren değerlerden halka arzı için gerekli ilk başvurular yapılmıştı.

Fakat OpenAI CEO’su Sam Altman bu son gelişmelerden sonra çıktı ve dedi ki: “Güvenlik riski var, o yüzden halka arzı bu yıl için erteliyoruz.”

İlginç değil mi?

Ekimde gerçekleşmesi beklenen halka arz öncesi bir “eyvahlar olsun, YZ bizi öldürecek” gümbürtüsü koptu, akabinde halka arz ertelendi. Anthropic henüz net bir açıklama yapmadı ama onun da aynı gerekçeyle ertelemesi hiç şaşırtıcı olmaz.

Böyle bir kararın açıklanan güvenlik riski dışında başka ne gibi sebepleri olabilir, sesli düşünelim:

Bir: Gerçekten güvenlik açığı vardır ama asıl korkulan YZ’nın insanlığı tehdit etmesi değil bir ürün olarak yatırımcının beklentisini karşılamamasıdır. Prompt’lara (talimatlara) uymayan bir model ekonomik değerini kaybedebilir, bir büyük hack’leme vakası daha yaşanırsa şirketin hisse değeri dibe vurabilir.

İki: Şirket halka arzla gelecek şeffaflığa henüz hazır değildir. Halka açık bir şirket olduğunuzda her hisse sahibinin ekonomik verilerinize erişim hakkı doğar. Amerikan hükümetinin bir telif davasına müdahil olacak kadar koruyup kolladığı bu şirketlerin bu denli şeffaf olması -belki de- birileri için henüz erkendir.

Bunlar sadece benim şüphelerim değil, kuşkusuz. Meselenin dönüp dolaşıp halka arza geleceğini daha geçen hafta yazıp çizenler oldu ve gerçekten de dün Sam Altman beklenen açıklamayı yaptı.

Tesadüf mü dersiniz?

İşte böyle. Gelinen noktada “gümbürtü” olanca hızıyla devam ediyor. Buradan nasıl çıkış olacak, “yavaşlama” beklentisinin altı nasıl doldurulacak, şu anda bilmiyoruz. Olacaksa sadece Amerikan şirketlerinin yavaşlaması gibi bir ihtimal yok. Çin’i, Rusya’yı nasıl ikna edecekler, bilemiyorum.