Çin ve Silikon Vadisi aynı yapay zekâ endişesinde buluştu: Hitler'in atom bombasına sahip olması kadar ciddi; kumar oynuyoruz!

Çinli yapay zekâ şirketi DeepSeek'in en son sürümünün kritik bileşeninin yazılmasına yardımcı olan mühendis Liu Shengyu, Çin’deki öncü yapay zekâ laboratuvarındaki çalışmalara ve Çinli çalışanların yapay zekânın riskleriyle nasıl mücadele ettiğine dair çarpıcı bir paylaşımda bulundu. Anthropic ve OpenAI'ın eski araştırmacılarından Jacob Coxon'ın geçen hafta yapay zekâ güvenliği endişeleri nedeniyle şirketten istifa ettiğini duyurması ve X'teki paylaşımında, yapay zekâ şirketlerinin "doğrudan kendini geliştiren süper zekâya doğru yarıştığını" ve "hayatlarımızla kumar oynadığını" yazmasının ardından ateşlenen tartışmada son olarak Anthropic kurucu ortaklarından Jack Clark da açıklamalarda bulundu. Clark, üçüncü bir tarafça kullanılacak "acil kapatma düğmesine" sahip olunması gerektiğinin altını çizerken "Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz." dedi. 

DeepSeek’te yapay zeka geliştiricisi olan Liu Shengyu, kamuya açık WeChat hesabında Çince olarak yayımladığı "Yeteneklerimi Düne Gömmekten Başka Çarem Yok" başlıklı blog yazısında, en nihayetinde kendi uzmanlık becerilerini gereksiz kılacak bir yapay zekânın inşasına yardım etmenin "tuhaf gerçekliği" üzerine yazdı. 

Liu, yaklaşık bir yıl içinde yapay zekânın; belgelere göz atmasına ve hataları tespit etmesine yardımcı olan bir araçtan, GPU kodunu okuyabilen ve yazılım operatörlerini optimize edebilen bir yapıya dönüştüğünü yazdı. "DeepSeek v4.1’in başarısıyla gurur duysa da" Liu, yapay zekâ tarafından yazılan operatörlerin "büyük ihtimalle kendisininkiler kadar iyi olacağının, hatta kendisininkileri aşacağının farkında olduğunu" belirtti.

"Kendisinin yerini alabilecek bir teknolojinin inşasına yardım etmek"

Liu, kendisinin yerini alabilecek bir teknolojinin inşasına yardım etmenin ne anlama geldiğini sorgulayarak şunları yazdı: 

"İnsanoğlu kendi sonunu hazırlama konusunda hiçbir zaman tereddüt etmemiştir.

Peki öyleyse, onları ne kadar iyi yazarsam yeni modellerimizin o kadar hızlı eğitilip çalıştırılabileceğini, yeteneklerinin o kadar hızlı gelişeceğini ve benim yerimi o kadar çabuk alacağını bile bile neden halen çekirdekleri optimize etmek için elimden gelenin en iyisini yapıyorum?

Bir bakıma bunun sebebi, çekirdek yazmanın bana bir video oyunu oynamak gibi gelmesi. Bundan muazzam bir heyecan duyuyorum. Yeni bir teknik geliştirdiğimde veya yazdığım çekirdeklerden birinin daha iyi performans gösterdiğini gördüğümde hissettiğim heyecan, bir koşucunun kendi rekorunu kırdığında hissettiği heyecandan az değil. Ve benim çekirdeğim, donanım üreticisinin resmi sürümünden katbekat iyi performans gösterdiğinde inanılmaz bir gurur duyuyorum.

Ama daha önemli başka bir sebep var: 'Öylece yatıp hiçbir şey yapmamaya' karar versem veya model eğitimini yavaşlatmak için kasıtlı olarak işe çomak soksam bile, rakip şirketler modellerini ilerletmeye devam edecek ve ben yine de en nihayetinde yerimi başkasına kaptıracağım.

Tabii ki devrim tarafından koltuğumdan edilmeyi tercih etmem. Ancak devrim kaçınılmazsa, 'kendine devrim yapan' kişi olmayı tercih ederim.

Herkes kendi sonunu getirmeye bu kadar kararlıyken, benim de bu acımasız silahlanma yarışına katılmaktan başka pek çarem kalmıyor."

Yeni bir sanayi devrimi

Liu, işsiz kalacağını düşünmediğini ancak yapay zekânın sevdiği işin pratik kısmını elinden almasından, kendisini operatörleri bizzat yazan biri olmaktan çıkarıp çoğunlukla bunu yapması için yapay zekâ ajanlarını yönlendiren birine dönüştürmesinden endişe ettiğini söyledi.

Bu değişimi; "kazakları elle yapmayı bırakıp daha hızlı bir makine kullanmak zorunda kalan yetenekli bir kazak örücüsüne" benzetti; çünkü "meslekteki herkes artık bu makineye sahipti".

Liu yazısında, "Ancak pencere kenarında yağmuru dinleme, iğneden ipliği geçirme ve zamanı ağırca geçirme keyfi, en nihayetinde makinelerin gürültüsüyle ezilip gitti," diye belirtti.

Liu, "Rasyonel ve duygusal yönlerimi birbirinden oldukça ayrı tutmaya meyilliyimdir. Bir sorun mantık gerektirdiğinde çok rasyonel olabilirim. Ancak duygusal tarafımın baskın çıktığı zamanlar da vardır," diye yazdı.

Öncü yapay zekâyı kimin kontrol etmesi gerektiği endişesi

Liu ayrıca, öncü yapay zekânın bir avuç şirketin kontrolünde olması konusunda uyarıda bulunarak, bunun en yetenekli modellere erişimi olanlara daha da büyük bir avantaj sağlayacağını ve eşitsizliği derinleştirebileceğini yazdı.

Liu, "Bu nedenle, en ileri düzey zekanın herkesin açık ve uygun fiyatlı bir şekilde erişimine sunulması gerektiğine inanmaya devam ediyorum," ifadelerini kullandı.

"Anthropic'in yapay genel zekâya sahip olması Hitler'in atom bombasını elde etmesi gibi"

"Anthropic veya OpenAI'ın bunu yapacağına güvenmiyorum ve özellikle Anthropic'in en gelişmiş yapay zekaya veya YGL'ye (Yapay Genel Zeka / AGI) hükmetmesini istemiyorum; abartmak gerekirse, bunun ciddiyeti Hitler'in müttefiklerden önce atom bombası teknolojisini elde etmesinden daha az olmazdı," diye yazdı.

Liu'nun bu paylaşımı, yapay zekâ liderlerinin teknolojinin gidişatı hakkında alarm verdiği bir döneme denk geliyor.

Geçen hafta, Anthropic ve OpenAI'ın eski araştırmacılarından Jacob Coxon, yapay zeka güvenliği endişeleri nedeniyle Anthropic'ten istifa ettiğini duyurmuştu. X'teki bir paylaşımında, yapay zeka şirketlerinin "doğrudan kendini geliştiren süper zekaya doğru yarıştığını" ve "hayatlarımızla kumar oynadığını" yazmıştı.

Coxon'ın sözleri; Anthropic'in kurucu ortağı Dario Amodei, OpenAI Ceo'su Sam Altman ve Elon Musk gibi liderlerin daha güçlü yapay zekalar inşa etme yarışının çok mu hızlı ilerlediği konusunda görüş bildirmesiyle daha geniş bir tartışmayı ateşlemişti. 

Anthropic kurucu ortağı: Acil kapatma düğmesi gerekiyor, kumar oynuyoruz

ABD'li yapay zekâ şirketi Anthropic'in kurucu ortaklarından Clark, son olarak şirketler için yapay zekâ konusunda üçüncü bir tarafça kullanılabilecek bir "acil kapatma düğmesinin" zorunlu hale gelebileceği yorumunda bulundu.

Anthropic kurucularından Clark, yapay zeka yazılımının çok tehlikeli hale gelmesi durumunda onu tamamen devre dışı bırakmanın bir yolunun, toplumun "ileride bu konuda kurallar koymak isteyebileceği" bir konu olduğunu söyledi.

Anthropic dahil birçok şirketin çeşitli "kapatma düğmesi" yöntemlerinin olduğunu belirten Clark, "acil kapatma düğmesi" gereklilikleri ve denetimi ile ilgili ayrıntıların, yapay zeka konusunda yürütülen "daha geniş kapsamlı politika tartışmasının" bir parçası olması gerektiğini dile getirdi.

BBC'nin "Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?" sorusu üzerine Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu." yanıtını verdi.

Yapay zekânın tüm insanlığı yok etme olasılığının yüzde kaç olduğunun sorulması üzerine Clark, "Bu istatistiklerin bir işe yarayacağını düşünmüyorum. Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir." ifadesini kullandı.

Clark, "Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz." görüşünü paylaştı.