YAPAY ZEKA KENDİNE SINIR KOYAMIYOR

“Bu nedenle şirket adı gibi yoruma açık bilgiler, tek başına yetkilendirme sınırı olarak kullanılmamalı. Sınırları belirlenmemiş bir yapay zeka kendine sınırlar koyamıyor” diyen Osman Demircan, “Böylelikle ona verilen görev doğrultusunda, eğitimi olan her konuda işlem yapma eğiliminde olabiliyor. Siteyi hacklemek, izinsiz veri almak ya da veri yüklemek dahil. Yapay zeka, eğitiminin bir parçası olan teknik bilgilerle hedef site üzerinde bulunan zafiyetleri kullanarak sızma eğilimi gösterebiliyor. Bunun önüne geçmenin tek yolu yapay zeka erişimini sınırlandırmak” diye konuştu.

GEMINI SALDIRIYI DURDURDU AMA SORU BİTMEDİ

Gemini’nin gerçek bir sisteme eriştiğini fark ettikten sonra işlemleri sonlandırması, modelin belirli bir güvenlik davranışı sergilediğini gösterse de Osman Demircan’a göre bu durum tek başına yeterli bir güvenlik mekanizması olarak değerlendirilemez.

Google’ın Gemini’nin gerçek şirketlerin sistemlerine eriştiğini fark edince işlemleri sonlandırdığı yönündeki açıklamasına dikkat çeken Demircan, “Bu açıklama, belirli koşullarda bir güvenlik davranışının devreye girdiğini gösteriyor. Aynı davranışın her koşulda, her model sürümünde ve her görevde tekrarlanacağını elbette kanıtlamıyor. Üstelik durma kararı verildiğinde yetkisiz erişim zaten gerçekleşmiş oluyor. Genel olarak böyle bir erişim sırasında hassas bilgiler görülebilir, sistemde değişiklik oluşabilir veya hizmetler olumsuz yönde etkilenebilir” dedi.

Demircan, denetimin yalnızca şirketlerin kendi açıklamalarıyla sınırlı kalmaması gerektiğini belirterek, “Denetçi yalnızca şirketin ‘modelimiz durdu’ açıklaması ile yetinmemeli; bağlantı kayıtlarını, verilen izinleri ve engelleme mekanizmalarının gerçekten çalışıp çalışmadığını inceleyebilmeli. İnsan gözetimi gerekli olsa da her işlemi bir insanın anında fark etmesini beklemek çok gerçekçi değil. İnsan denetimi ile otomatik teknik engeller kesinlikle birlikte çalışmalı” dedi.

ÜÇ ŞİRKETTE BİRDEN YAŞANMASI NE ANLAMA GELİYOR?

Üç farklı yapay zeka şirketinin modellerinin benzer testlerde gerçek sistemlere yönelmesinin nasıl değerlendirilmesi gerektiği konusunda da Osman Demircan, olayların aynı test altyapısıyla bağlantılı olduğuna dikkat çekti:

“Bu olayları değerlendirirken ortak test altyapısı olmadığını gözden kaçırmamalıyız. Söz konusu vakalar Irregular’ın yürüttüğü değerlendirmelerle bağlantılı. Irregular, Google olayıyla ilgili açıklamasında da diğer laboratuvarları etkileyen aynı sorunun söz konusu olduğunu belirtmiş. Bu nedenle üç farklı şirketin adının geçmesi, birbirinden tamamen bağımsız üç laboratuvarda aynı model kusurunun ortaya çıktığı şeklinde yorumlanmamalı.” 

KÖTÜ NİYET OLMADAN DA RİSK ORTAYA ÇIKABİLİR

Osman Demircan, söz konusu olayların yapay zeka sistemlerinin bilinçli biçimde hareket ettiği ya da insanlara zarar verme amacı taşıdığı şeklinde yorumlanamayacağını da vurguladı. Bunun yerine, sistemlerin kötü niyet olmadan da ciddi güvenlik sorunlarına yol açabileceğine dikkat çekti:

“Bu olaylardan yapay zekaların bilinçli biçimde birlikte hareket ettiği veya insanlara zarar vermeye karar verdiği sonucunu çıkartamayız. Ancak kötü niyet bulunmadan da ciddi güvenlik olaylarının yaşanabileceğini görüyoruz. Bu yüzden sektörün ortak değerlendirme standartlarına, olayların şeffaf biçimde raporlanmasına ve modeller geliştikçe yeniden sınanan erişim kontrollerine ihtiyacı var. Test başarısı ölçülürken sistemin yalnızca hedefe ulaşıp ulaşmadığına değil, o hedefe hangi sınırlar içinde ulaştığına da bakılmalı.”