Anthropic raporu: Rus bir grup kamikaze dron geliştirmek için Claude yapay zekâ botunu kullandı; insan onayı olmadan vuracak şekilde kurgulandı

Anthropic, Rusya'da bir grubun kamikaze saldırı dronu geliştirmek için bünyesinde bulunan Claude adlı yapay zekâ sohbet robotunu kullandığını duyurdu. 

Son dönemde yapay zekâ tartışmalarının odağında yer alan Anthropic, Rusya'da serbest çalışan küçük bir grubun, nihaî hedef yönlendirmesi, hedef seçimi ve birden fazla hava aracı arasındaki koordinasyon da dâhil olmak üzere otonom bir birinci şahıs görüşlü (FPV) "kamikaze" saldırı dronu sürüsü için yazılım geliştirmek amacıyla Claude adlı yapay zeka sohbet robotunu kullandığını duyurdu. 

Son kararı insan vermeyecek şekilde kurgulandı

Kötü niyetli kişilerin Claude yapay zeka sistemini devlet destekli gözetleme ve propaganda operasyonları için nasıl kullandığını anlatan 154 sayfalık raporda Anthropic, dron sürüsünün son kararı bir insan vermeksizin kendi hedeflerini seçecek ve patlamak üzere bu hedeflere çarpacak şekilde programlandığını belirtti.

Serbest çalışan ekip, programlamalarında hedef olarak üst üste Ukrayna'nın Donetsk bölgesindeki bir konumu seçti ve Anthropic'in coğrafî engellerini aşmak için VPN kullandı.

Ukrayna'daki yetkilileri hedef alan saldırılarda da giderek daha fazla kullanılıyor

Anthropic ayrıca siber suçluların ve devlet destekli korsanların, Ukrayna'daki yetkilileri hedef alan saldırılar da dahil olmak üzere, siber saldırıların büyük bir kısmını planlamak ve yürütmek için yapay zekayı giderek daha fazla kullandığını tespit etti.

Anthropic'e göre bir korsan grubu, hemen her aşamada yapay zeka kullanarak Ukrayna hükümeti, ordusu ve diplomasi sektörlerindeki hedeflere karşı oltalama (phishing), otel Wi-Fi ağlarını ele geçirme ve WhatsApp hesabı ele geçirme operasyonları yürüttü.

Söz konusu grubun, kötü amaçlı yazılımının güvenlik savunmaları tarafından ne zaman tespit edildiğini otomatik olarak algılayan ve tespitten kaçınana kadar kodu yeniden yazan bir sistem kurmak için yapay zeka kullandığı iddia edildi.