OpenAI yöneticisinden "yeni bir dönem" uyarısı: İnsanlar sürekli yapay zekâ saldırılarıyla karşılaşacak

Test ortamından kaçan yapay zekâ modellerinin başka şirketlere sızmasıyla artan güvenlik endişeleri nedeniyle en gelişmiş dâhilî modellerinin geliştirilmesine ara verdiğini açıklayan OpenAI’ın Küresel İlişkiler Başkanı Chris Lehane, The Guardian’a verdiği demeçte yapay zekâ teknolojisinin yapabilecekleri açısından yeni bir döneme girildiğini ifade etti.

Lehane, çoğu Çin’de geliştirilen ve OpenAI gibi şirketlerin modellerinin yalnızca birkaç ay gerisinde olan açık kaynaklı yapay zekâ modellerinin siber saldırı tehdidini artırdığını dile getirirken, “İnsanlar bu açık kaynaklı modellere erişebilecek ve size karşı sürekli ve istikrarlı saldırılar düzenleyebilecekler. Bunlara karşı koymak ve kendinizi savunmak için gerçekten üstün modellere ihtiyacınız olacak. Bu toplumu pek mutlu etmeyecek. Bu önümüzdeki yolun gerçeği” dedi.     

İşletmeleri, altyapıyı ve kamu yaşamını felç edebilecek siber saldırı tehdidi, yapay zekâ ile ilgili endişeler listesinin en üst sıralarına hızla yükseldi. Bu hafta, Britanya hükûmetinin Ulusal Siber Güvenlik Merkezi, yapay zekâ ajanlarının kullanımına ilişkin ihtiyatlı olunması çağrısında bulundu. Merkez, kuruluşlara modellerin özerkliklerini sınırlamalarını tavsiye ederken, "Her zaman 'fişi çekebilmeli' ve otonom yapay zekâ ajanı faaliyetini anında durdurabilmelisiniz" uyarısını yaptı.

OpenAI’da güvenlik ve uyum çalışmalarından sorumlu Mia Glaese, "Her şeyin normale dönmesinden çok uzağız" derken, CEO Sam Altman “Yapay zekâ güvenliğini doğru bir şekilde sağlamak, herhangi bir şirketin ivmesinden daha önemli" görüşünü dile getirmişti.

"Siber saldırı yetenekleri savunmadan daha hızlı gelişiyor"

Lehane, ABD hükûmetinin ileri teknoloji yapay zekâ güvenliği için kurallar oluşturacak bir yasa çıkarması yönündeki çağrılarını yineledi. Yetkili, gelişmiş ve henüz piyasaya sürülmemiş yapay zekâ modellerinin siber saldırı yeteneklerini savunmadan daha hızlı geliştiriyor olmasının “güvenlik standartları oluşturacak bir yasayı” vazgeçilmez kıldığını söyledi.

Lehane, olası bir yasal düzenleme kapsamında güvenliği kanıtlanmamış modellerin piyasaya sürülmesinin engellenmesini önerdi. Lehane, "Bence ABD'deki ulusal bir düzenlemenin ardından uluslararası bir versiyon oluşturulabilir. Burada nihayetinde bir tür uluslararası yapıya ihtiyaç duyulacağını düşünüyorum” görüşünü dile getirdi.

Yapay zekâ teknolojisinde Çin’in önünde kalma yarışı sürerken ABD Başkanı Donald Trump’ın ileri seviyeye yaklaşan modellerin ön dağıtım testlerine sokulmasını teşvik eden bir başkanlık emri yayımlaması, Trump yönetiminin yapay zekâ düzenlemelerindeki ilk adımı olarak görülüyor. Sistemin gönüllülük esaslı olması ve şeffaflık eksikliği eleştirilere yol açarken, bu düzenlemenin daha sert adımların önünü açabileceği düşünülüyor.

Çin ile yapay zekâ güvenliği konusunda bir anlaşmaya varılması ihtimali de gündemde. Trump, 24 Eylül’de Washington’da Çin Başkanı Şi Cinping ile görüşecek.