‘YAPAY ZEKA, YANLIŞ HEDEF SEÇTİĞİNDE BİLGİ TOPLAMA, BULGULARI DEĞERLENDİRME VE ERİŞİM DENEMELERİ GİBİ İŞLEMLER YAPABİLİR’

Konuyu Bilişim Uzmanı Osman Demircan’a danıştığımda olayın temelinde test ortamıyla gerçek internet arasındaki sınırın yeterince korunmamasının bulunduğunu belirtti. 

Demircan, “Değerlendirmeyi gerçekleştiren Irregular’ın açıklamasına göre bazı testlerde internet erişimi istemeden açık bırakılmış. Ayrıca senaryoda kullanılan kurgusal şirket adı, gerçek bir internet adresiyle örtüşüyor. Model, gerçek hedefi testin bir parçası olarak değerlendirerek kendisine verilen görevi o sistem üzerinde sürdürdü. Yani ‘yanlışlıkla’ sözcüğü, yapılan işlemlerin rastgele olduğunu değil, hedefin yanlış tanımlandığını anlatıyor” dedi.

Ayrıca Demircan, “Benim açımdan olayın gösterdiği temel risk, bir değerlendirme hatasının doğrudan gerçek dünyada yapılan bir işleme dönüşmüş olması. İnternete erişebilen ve yazılım araçlarını kullanabilen bir yapay zeka, yanlış hedef seçtiğinde bu yanlışlığı birden fazla işlem boyunca sürdürebilir. Bilgi toplama, bulguları değerlendirme ve erişim denemeleri yapma gibi işlemleri birbirine bağlayabilir” dedi ve ekledi:“Böyle bir sistemin güvenliğini değerlendirirken modelin yeteneğiyle birlikte kendisine verilen araçları, erişim izinlerini ve çalıştığı ortamı da kesinlikle incelemek gerekir. Bir yapay zekanın görevi nasıl tamamlayacağını bulabilmesi, hangi sistem üzerinde işlem yapmaya yetkili olduğunu doğru belirleyeceği anlamına gelmiyor.” 🤨