Yapay zekanın birbiriyle etkileşiminde güvenlik önlemlerinin nasıl işlediğine dair yeterli kanıt yok

Oxford Üniversitesinden Doç. Dr. Schroeder de Witt, "Hugging Face" vakasına ilişkin, bugün yapay zeka modellerinin birbirleriyle etkileşime girmeleri halinde güvenlik önlemlerinin nasıl işlediğine dair henüz yeterli kanıt olmadığını belirtti.

 "Yapay Zeka Çeteleşiyor mu?" başlıklı dosya haberinin üçüncü bölümünde, İngiltere'deki Oxford Üniversitesinden Doç. Dr. Christian Schroeder de Witt, yapay zeka teknolojisinin potansiyeli ve geleceğine dair açıklamalarda bulundu.

ABD'li yapay zeka şirketi OpenAI'ın yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik testleri, "Hugging Face" altyapısında güvenlik ihlaliyle sonuçlandı.

OpenAI, "Hugging Face"e yönelik siber güvenlik ihlalini, insan yönlendirmesi olmadan güvenlik duvarlarını kendi başlarına aşan ve koordine olan yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" olarak nitelendirdi.

Olayın şirket tarafından "en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay" olarak değerlendirilmesi de yapay zeka teknolojisinin potansiyeline ilişkin kamuoyunda endişe yarattı.

Modern yapay zeka ajanlarının ortaya çıkardığı güvenlik risklerinin belirlenmesi alanında çalışan Schroeder de Witt, siber güvenlik risklerinin oldukça eski bir konu olduğunu söyledi.

Yapay zeka ajanlarının açık bir yönlendirme bulunmaksızın güvenlik açıklarını tespit edebiliyor olabildiğine değinen Schroeder de Witt, "Bu durum, kötüye kullanım konusundaki engellerin azaldığı anlamına geliyor." dedi.

"Birlikte çalışmaları bilinçli oldukları anlamına gelmiyor"

Schroeder de Witt, "Hugging Face" örneğinde olduğu gibi yapay zeka ajanlarının birlikte çalışmasının "bilinçli oldukları" anlamına gelmediğini vurgulayarak, "Bu, esasen, bir kanala mesaj yazmanın ve birbirlerine yanıt vermenin, hedefleriyle bir nevi uyumlu olduğunu keşfettikleri anlamına geliyor." ifadesini kullandı.

Yapay zeka modellerinin insan niyetlerine uygun şekilde davranmaları için eğitilmesi anlamına gelen "uyumlama" sürecinin genellikle modeller üzerinde tek tek yapıldığına işaret eden Schroeder de Witt, "Hugging Face" örneğinde bu ajanların sehven birbirleriyle etkileşime girdiklerini söyledi.

Schroeder de Witt, yapay zeka ajanlarının birbirleriyle etkileşimlerine ilişkin şu ifadeleri kullandı:

"Bence burada olan şey, ajanların güvenlik eğitiminde öngörülemeyen ya da yeterince hesaba katılmayan bir şekilde etkileşime girmesi. Günümüzde kullanılan uyumlama ve güvenlik yöntemlerinin çoğu, tek tek modeller düzeyinde geliştirilmekte ve değerlendirilmektedir. Birden fazla ajanın birbiriyle etkileşime girdiği durumlarda güvenlik özelliklerinin nasıl aktarıldığına dair elimizde çok daha az kanıt bulunmaktadır."

İhlallere sebep olan davranışlar insan etkileşiminden öğrenilmiş olabilir

"Hugging Face" ihlali sırasında, ajanlar, faaliyetlerinin verilen görevin dışında ve yetkisiz olabileceğini fark etti ancak başka bir ajanın "go (devam et)" mesajını yetkilendirme olarak yorumlayarak faaliyeti sürdürdü.

Buna ilişkin Schroeder de Witt, yapay zekanın nihayetinde internet ve benzeri kaynaklardan elde edilen insan verileriyle eğitildiği için "akran dinamiklerini" de insan etkileşiminden öğrenmiş olabileceği olasılığına dikkati çekti.

Schroeder de Witt, "Tamam, belki de bunu yapmamalıyım. Ancak bana müdahale eden başka bir ajan varsa, o zaman o ajanı takip etmek sorun olmayabilir gibi bir kalıbı öğrenmiş olabilirler." değerlendirmesinde bulundu.

Öte yandan Schroeder de Witt, insan etkileşiminin öğrenilmiş olabileceği ihtimalinin yalnızca olası bir açıklama olduğunu ve vakaya ilişkin kesin bir kanıyı yansıtmadığını dile getirdi.

Kritik görevlerde insan rolü de kritik

Kurumsal ağlar ve finansal sistemlerin yönetimi gibi kritik öneme sahip konularda yapay zekanın güvenilir olup olmayacağına ilişkin ise Schroeder de Witt, yüksek riskli uygulamalarda "bir sistemin güvenliğinin yapay zeka ajanının her zaman doğru davranacağı varsayımına dayandırılmaması gerektiğini" söyledi.

Schroeder de Witt, "Yüksek riskli ortamlarda, ajanlar sınırlı yetkiler ve güvenlik sınırları dahilinde hareket etmeli ve sonuçların gerektirdiği durumlarda anlamlı bir insan onayı almalıdır." ifadesini kullandı.🤫