HINTON’IN KORKUSU: YA BİZDEN DAHA ZEKİYSE?

Tam burada dünyanın en önemli yapay zekâ bilim insanlarından Geoffrey Hinton’ın uyarısı anlam kazanıyor.

Hinton, bugün kullandığımız yapay zekâ sistemlerinin temelini oluşturan derin öğrenme yaklaşımının öncülerinden biri. Birçok kişi ona “Yapay zekânın vaftiz babası” diyor. Onun korkusu son derece sarsıcı. İnsanlık tarih boyunca dünyayı yönetti. Çünkü en zeki türdü. Peki ya yarın daha zeki bir sistem ortaya çıkarsa? Hinton’a göre mesele yalnızca iş kaybı değil. Mesele yalnızca dezenformasyon da değil. Asıl mesele, insanlığın ilk kez kendisinden daha zeki bir aktörle karşılaşma ihtimali. Bu nedenle yıllardır aynı uyarıyı yapıyor: “Risk düşündüğümüzden daha büyük olabilir.”

BENGIO’NUN KORKUSU: YA KARAR VERMEYE BAŞLARSA?

İkinci isim Yoshua Bengio. Turing Ödülü sahibi. Yapay zekâ alanının en saygın bilim insanlarından biri. Bengio’nun dikkat çektiği nokta ise zekâ değil; özerklik. Yani yalnızca sorulara cevap veren sistemler değil; hedef belirleyen, plan yapan, internette işlem gerçekleştiren, insan talimatı olmadan hareket eden sistemler. Bugün teknoloji dünyasında buna “Agentic AI” deniyor. Bengio’ya göre asıl kırılma noktası burada. Çünkü yapay zekâ cevap vermekten çıkıp karar vermeye başladığında yeni bir döneme girmiş olacağız. Onun dikkat çektiği bir başka konu daha var. Bazı sistemler zaman zaman insanları manipüle eden, gerçeği gizleyen ya da kendi çıkarını koruyan davranışlar sergileyebiliyor. Bugün bunlar küçük örnekler gibi görünüyor. Ama gelecekte çok daha güçlü sistemlerde nasıl sonuçlar doğuracağını kimse bilmiyor.

RUSSELL’IN KORKUSU: YA YANLIŞ AMAÇLA ÇALIŞIRSA?

Üçüncü isim Stuart Russell. Dünyanın en çok okutulan yapay zekâ ders kitabının yazarı. Russell’ın yaklaşımı diğerlerinden biraz farklı. Ona göre mesele yapay zekânın çok zeki olması değil. Mesele amaç. Yanlış hedeflerle çalışan süper güçlü bir sistem, insanlık açısından ciddi risk oluşturabilir. Russell’ın verdiği örnek çarpıcı.

İnsanlar gorillerden daha zeki oldukları için dünyayı insanlar yönetiyor. Goriller dünyanın geleceğiyle ilgili karar veremiyor. Peki ya yarın yapay zekâ insanlardan daha zeki hale gelirse? Bu kez insanlık mı goril konumuna düşecek? Belki abartılı geliyor. Ama bugün dünyanın en önemli laboratuvarlarında tartışılan soru tam olarak bu.