Yapay zekâ savaşını anlamak

Makineler isyan edip tıpkı Terminatör filmindeki gibi insanlığı ele mi geçirecek?

Dünyanın en büyük yapay zekâ şirketlerinden Anthropic’in araştırmacısı Jacob Coxon’ın istifasıyla bu tartışma yeniden alevlendi.

Kulağa biraz karanlık bir fantezi gibi geliyor.

Açıkçası işin teknolojik boyutu kolay kavranamayacak derecede karmaşık.

Fakat insanlığın yakın tarihindeki tecrübeler bu yaşananların aslında çok da yeni bir şey olmadığını anlatıyor.

İkinci Dünya Savaşı’nın en çatışmalı döneminde ABD’de bilim insanlarının, askerlerin ve dev şirketlerin dahil olduğu büyük bir çalışma başlatıldı.

“Manhattan Projesi” denen bu çalışma Batı dünyasının Nazi’lerden önce nükleer silah yapmasını amaçlıyordu.

Bol Oscar ödüllü Oppenheimer filmini izleyenler hatırlayacaktır. Manhattan Projesi’yle ABD bu teknolojiye ulaşıp Japonya’ya atom bombası attı ve İkinci Dünya Savaşı’nı bitirdi. Ancak binlerce sivilin hayatını kaybetmesinin yanı sıra nükleer tehdidin başrolde olduğu Soğuk Savaş’ı da başlattı.

Bugünlerde, yapay zekâyla ilgilenenlerin dışında adı pek duyulmayan benzer bir proje, yine ABD’de yürütülüyor.

Anthropic’in öncülüğündeki girişimin adı “Glasswing Projesi”. Girişim, adını doğada fark edilmeden gezinen şeffaf cam kanatlı kelebeklerden alıyor.

Projenin amacı tıpkı İkinci Dünya Savaşı sırasında olduğu gibi “Kötü niyetli aktörler saldırmadan önce yapay zekâyı olası en yüksek teknolojiye getirip Batı’nın elinde yenilmeyecek bir silah oluşturmak.”

Proje, teknoloji ve finans devlerini bir araya getiriyor. Amazon, Google, Microsoft, Apple, NVIDIA, JP Morgan bu girişimin içinde yer alan şirketlerden birkaçı.

Tıpkı atom bombası üretme yarışında olduğu gibi yapay zekâyı bir silah haline getirme yarışının içinde de büyük bir konsorsiyum var.

Projenin odağında Anthropic araştırmacısı Jacob Coxon’ı istifaya götüren yeni yapay zekâ modeli Mythos bulunuyor.

Yarattığı tehdidi anlamak için Mythos’u şöyle özetleyebiliriz: İnsanlık tarihinin bütün bilgilerine sahip bir bilgisayar, serbest bir şekilde korsanlık yapıyor. Hava yolları şirketlerinin, hastanelerin, bankaların, orduların güvenlik açıklarını tespit etmek için şifrelerini kırıyor, sistemlerine giriyor ve bunu yaparken kendi başına karar veriyor.

Mayıs ayındaki Trump, Şi görüşmesinin hemen öncesinde tanıtılan Mythos’un yeni modelinin büyük bir tehdit olacağını belirtmiş ve iki liderin bu konuyu da masaya taşıyabileceğini yazmıştım.

Haziran ayında ABD, ulusal güvenlik riskleri gerekçesiyle bu sistemin ihracatına kısıtlama getirdi. Sonrasında sistem bireysel kullanıcılara yasaklandı.

Ancak Glasswing Projesi ortakları bu yapay zekâ modelini kullanıyor. ABD’nin sınırlı sayıda savunma ortağı ve Avrupa Birliği’nin siber güvenlik ajansı ENISA’yla da sistemi paylaştığı söyleniyor.

Birçok insan bu teknolojinin sadece “Batı’nın elinde kalmayacak” yeni bir nükleer savaş benzeri bir tehdit olduğunu düşünüyor.