Bir şirket gitti, diğeri geldi

ABD’nin İsrail devletiyle birlikte İran’a askeri operasyon düzenlemesiyle gündeme gelen ‘yapay zekânın cephedeki konumu’ meselesinin düğüm noktası tam burası. ABD Savaş Bakanlığı’nın savaş sistemlerini bir üst seviyeye taşımak adına hangi yapay zekâ şirketinin altyapısıyla çalışacağı üzerinden gündeme gelen konunun farklı derinlikleri var...

Tartışmaları alevlendirense 28 Şubat’ta Claude AI’ın yaratıcısı Anthropic şirketinin ABD Savaş Bakanlığı’yla anlaşma koşullarının bozulması ve hemen ardından hükümetin Open AI’la anlaşma imzalaması oldu. ABD Başkanı Donald Trump’ın Anthropic’le bir daha çalışmayacaklarını açıklamasının ertesi günü gelen OpenAI’la anlaşma duyurusu, ChatGPT kullanıcıları arasında infiale neden oldu ve savaş karşıtı milyonlarca insan popüler sohbet botu aboneliklerini iptal etmeye başladı.

Anthropic’in öne sürdüğü ama Başkan Trump’ın tepkisini çeken hizmet şartlarının tam olarak ne olduğuysa perşembe günü şirketin CEO’su Dario Amodei’in açıklamalarıyla ortaya çıktı. Amodei reddettikleri sözleşme kapsamında yapay zekâ teknolojilerinin kitlesel gözetleme ve yapay zekâ kontrollü silahlar geliştirmek için kullanılabilme olasılığı olduğunu öne sürdü. Sorunun ‘yasaların hızla gelişen yapay zekâ kabiliyetlerinin henüz gerisinde kalmasından kaynaklandığını’ belirten Amodei “Dar bir çerçevede de olsa yapay zekânın demokratik değerleri savunmak yerine onları sarsabileceğine inanıyoruz” diye yazdı.

ABD’nin köklü medya kuruluşlarından The Atlantic’te Ross Andersen imzasıyla çıkan bir makaledeki ABD hükümeti ve yapay zekâ şirketleri arasındaki anlaşmaları yakından izleyen bir yetkilinin görüşleri meselenin daha iyi anlaşılmasını sağlıyor: “Esasında Anthropic tam otonom (kendi başına karar verebilen) silahların var olmaması gerektiğini savunmamıştı. Aksine şirket bu silahların güvenirliğini arttırmak için Pentagon’la doğrudan çalışmayı teklif etmişti. Tıpkı otonom araçların bazı durumlarda insan sürücülerden daha güvenli olması gibi, katil drone’lar da bir gün insan operatörlerden daha isabetli olabilir ve bir saldırı sırasında çevredeki masumları öldürme ihtimali daha düşük olabilir. Ancak Anthropic yöneticileri yapay zekâlarının henüz bu eşiğe ulaşmadığına inanıyor. Modellerini kullanan savaş makinelerinin hatalı veya ayrım gözetmeden ateş etmesine yol açmasından, sivilleri hatta Amerikan askerlerini tehlikeye atmasından endişe ediyorlar. (Yetkili kaynağa göre) Müzakerelerin bir noktasında, Pentagon’un şirketin yapay zekâsını sadece bulut sunucularda tutacağına ve silahların içine yerleştirmeyeceğine dair söz vermesi halinde çıkmazın çözülebileceği önerildi. Buradaki argüman yapay zekâ modellerinin drone’lar veya diğer otonom silahlar gibi ‘uç sistemlerin’ dışında tutulabileceğiydi. Yapay zekâ herhangi bir operasyonun öncesinde istihbaratı güçlendirebilirdi ancak fiilen öldürme kararını veremeyecekti. Böylece yapay zekânın elleri drone’ların yapacağı ölümcül hatalardan temiz kalmış olacaktı. Ancak Anthropic bu çözümden tatmin olmadı.” (Makaleden alıntıdır.)

Anthropic CEO’su Dario Amodei’in çözümü yeterli bulmamasının ardında yapay zekânın sınırlarını net olarak tanımlamak yerine ‘Yasaya uygun şekilde’ ve benzeri ucu açık ifadelerle çerçevelenmesi sebep olarak gösteriliyor. Özetle Dario Amodei gerekli görüldüğünde yasaların değiştirilmesini veya yasaların hükmünün olmadığı bölgelerde yapay zekâyı sınırlayacak bir koşul kalmayacağını öne sürüyor.

OpenAI bozguna uğradı

Milyonlarca insan tarafından kullanılan ChatGPT’nin savaş sistemlerine entegre olacağının kesinleşmesiyle birlikte internette büyük bir ‘ChatGPT’yi silme’ hareketi de başladı. 5 Mart itibariyle 2,5 milyon kullanıcının sohbet botunu boykot ettiği bildirildi. Açıklamanın yapıldığı gün uygulamanın silinme oranı yüzde 295 arttı. Öte yandan Claude.ai AppStore’da Gemini ve ChatGPT’yi ilk kez geçerek en çok indirilen uygulama oldu.

OpenAI CEO’su Sam Altman’sa vatansever ve temkinli bir tutumla yapay zekâ etiği konusundaki endişeleri gözeten bir profil sergilemeye gayret ediyor. OpenAI’ın sözleşmesinde yapay zekânın kitlesel gözetleme ve otonom silah olarak kullanılmasını engelleyebilecek maddeler olduğu belirtilse de uzmanlar özellikle yasalara bağlı maddeler çerçevesinde ciddi açıkların oluşabileceğini öne sürüyor. Sam Altman’ın en güçlü argümanıysa kendileri gibi etiğe önem veren şirketlerle anlaşma yapılmazsa Elon Musk’ın xAI altyapısı gibi hiçbir etiği umursamayacak şirketlerle anlaşma ihtimali.

Aslında yeni bir konu değil

Yapay zekânın henüz esamesinin okunmadığı yıllarda otonom robotların savaş kabiliyetleri gündemdeydi. 2009 yılında Radikal gazetesinde ‘Savaşçı Robotların Vicdan Muharebesi’ başlığıyla vicdan terazisi olmayan robotların gelecekte cepheye inmesi halinde doğabilecek etik sorunları kaleme almıştım. Temeli o zamanlarda atılan bir fikrin nihayetinde böylesi somut ve sarsıcı bir gerçeğe dönüşmesi, savaşın ve teknolojinin dünya realitesinde ne kadar belirleyici, her şeyin üstüne çıkabilen ve o denli bileşik faktörler olduğunu hatırlatıyor.