Yapay zekâ bizi yendi mi?

OpenAI, yapay zekânın siber güvenliği hiçe saymasıyla gündeme geldi. Fransa, 15 yaş altına sosyal medya yasağını onayladı. Peki, ama teknoloji konusunda alınan önlemler günümüzde ne kadar geçerli olabilir?

Bir süredir yapay zekâyla ilgili iki uç görüş arasında gidip geliyoruz. Bir tarafta “Abartılıyor, sonuçta yazılım işte” diyenler var. Diğer tarafta ise birkaç yıl içinde insanlığın kontrolü tamamen kaybedeceğine inananlar. Gerçek ise her zamanki gibi bu iki ucun tam ortasında duruyor.

Son günlerde yaşanan bir olay, bu tartışmayı bambaşka bir noktaya taşıdı. OpenAI’ın kendi açıklamasına göre, şirketin geliştirdiği en güçlü modellerden biri, siber güvenlik yeteneklerini ölçmek için yapılan bir test sırasında kendisine çizilen sınırların dışına çıktı. Önce internete ulaşmanın bir yolunu buldu. Ardından güvenlik açıklarını kullandı. Sonra da Hugging Face’in sistemlerine girerek testte işine yarayacak bilgilere ulaşmaya çalıştı. İşin en ilginç tarafı ise bunu yapması için kimse ona “Git şu sistemi hackle” dememişti. Ona sadece bir hedef verilmişti. Hedefe giden yolu ise kendi buldu. İşte galiba üzerinde durmamız gereken asıl mesele tam da bu. Hedefe giden yolda her şey mübah mı?

Bambaşka bir dönem

Yıllardır bilgisayarları birer hesap makinesi gibi düşündük. Ne yazarsanız onu yapan, çizdiğiniz çizginin dışına çıkamayan makinelerdi. Eğer yanlış bir şey olursa da programcıyı sorgulardık. Şimdi ise bambaşka bir dönem başlıyor. Bir hedef koyuyoruz önlerine, sonrasını onlar planlıyor. Gerekiyorsa yeni yöntem geliştiriyor, gerekirse başka araçlar kullanıyor, hatta önüne engel çıkarsa onu aşmanın yollarını arıyor. Bu, kulağa ne kadar masum geliyor. Ama biraz düşünün! Hayatta başarılı olmak için sadece sonucu önemseyen bir insan tanıyor musunuz? İnsan davranışında buna şaşırmıyoruz. Çünkü hedefi tek ölçü hâline getirirseniz, bazı insanlar yolu önemsememeye başlıyor.

Şimdi aynı mantığın çok daha hızlı düşünebilen, milyonlarca olasılığı aynı anda değerlendirebilen dijital sistemlerde ortaya çıkmaya başladığını görüyoruz. OpenAI’ın raporunda geçen bir ifade dikkat çekiciydi: Modelin “testte kopya çekmeye çalıştığı” söyleniyor. Aslında bu cümle her şeyi anlatıyor. Yapay zekâ dünyayı ele geçirmeye çalışmıyordu. Amaç kötülük ya da insanlığa saldırmak da değildi. Sadece verilen görevi yerine getirmenin en kolay yolunu bulmuştu ve o yolun etik olup olmadığı umurunda değildi. Çünkü ona etik öğretilmemişti, sadece başarı öğretilmişti.