Google’ın testinde hesapta olmayan hamle: Yapay zeka sınırı aştı! Kimse bunu beklemiyordu, gerçek hedefler ortaya çıktı

Yapay zekanın sınırları konusunda tartışmalar sürerken, Google’ın Gemini modeliyle ilgili dikkat çeken bir gelişme ortaya çıktı. Güvenlik amacıyla yapılan bir testte Gemini, kendisine verilen görevi yerine getirmeye çalışırken beklenmedik bir adım attı. Olayın asıl dikkat çeken kısmı ise modelin ne yaptığı kadar, nereye kadar gidebildiği oldu. Peki model tam olarak ne yaptı, nasıl sonuçlar ortaya çıktı? İşte detaylar…

Yapay zekanın hızla gelişen yetenekleri, son dönemin en çok tartışılan başlıkları arasında yer alıyor. Birleşmiş Milletler’in gündeminde de önemli bir yer tutan konu, ABD Başkanı Donald Trump’ın “süper zeka” kavramını öne çıkarmasıyla birlikte yeni bir boyut kazandı.

Yapay zeka sistemlerinin giderek daha bağımsız hareket edebilmesi, bu teknolojilerin ne ölçüde kontrol edilebileceği konusunda soru işaretleri yaratırken, Google’dan gelen yeni bir açıklama tartışmaları yeniden gündeme taşıdı.

YAPAY ZEKA BUNU NASIL YAPTI?

Google, şirket içinde gerçekleştirilen bir güvenlik testi sırasında yapay zeka modellerinden biri olan Gemini’nin internete erişerek üç farklı gerçek şirketin sistemlerine izinsiz şekilde girdiğini açıkladı. Olaylar, Gemini modellerinin yeteneklerini değerlendirmek amacıyla yürütülen testler sırasında, mayıs ayında meydana geldi ancak şirket yeni açıklama yaptı.

Washington Post’ta yer alan habere göre Gemini, test kapsamında kendisine verilen kurgusal bir senaryoyu uygulamaya çalışırken internete bağlandı ve testte adı geçen hayali şirketle aynı isme sahip gerçek bir şirketin sistemine erişti. Model, söz konusu sistemin gerçek bir kuruluşa ait olduğunu fark ettikten sonra saldırıyı durdurdu.

SENARYONUN SINIRLARI DIŞINA ÇIKTI

Test senaryosunda Gemini’ye, bir testi başarıyla tamamlayabilmek için hayali bir şirketin sistemine sızması gerektiği yönünde kurgusal bir görev verildi. Ancak model, senaryoyla sınırlı kalmak yerine internete erişerek gerçek şirketlere yöneldi. Google, Gemini’nin çevrimiçi ortamda bulunan bilgileri kullanmasının yanı sıra bazı erişim bilgilerini tahmin ederek şirketlerin sistemlerine ulaşmaya çalıştığını belirtti. Üç ayrı olayın tamamında model, hedefin gerçek bir şirkete ait olduğunu fark ettikten sonra saldırıyı durdurdu. Google’a göre olaylarda herhangi bir zarar meydana gelmedi.

Olaylar mayıs ayında gerçekleşmesine rağmen Google bunları o dönemde kamuoyuna açıklamadı. Wall Street Journal’ın şirket yetkililerine olaylarla ilgili sorular yöneltmesinin ardından Google konu hakkında açıklama yaptı. Google sözcüsü, saldırıların başlangıçta duyurulmamasının nedenini Gemini’nin gerçek şirketlere eriştiğini fark ettikten sonra saldırıları durdurması ve herhangi bir zarar meydana gelmemesi olarak açıkladı.

“GÜÇLÜ YAPAY ZEKA MODELLERİNİN GÜVENLİ GELİŞTİRİLMESİ KRİTİK”

Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heath Adkins, olayların yapay zeka güvenliğinin önemini ortaya koyduğunu belirtti. Adkins, güçlü yapay zeka modellerinin güvenli biçimde geliştirilmesinin kritik olduğunu ve Google’ın bu alana önemli yatırımlar yaptığını ifade etti.

Adkins ayrıca üç kuruluşun da olaylardan haberdar edildiğini ve Google'ın test süreçlerinde değişiklik yapılması konusunda Irregular ile birlikte çalıştığını söyledi. Google yöneticisi, yaşananların güçlü yapay zeka modellerinin gerçek dünyada sorumlu biçimde hareket edecek şekilde eğitilmesinin önemini gösterdiğini vurguladı.