Microsoft AI CEO'su Süleyman, yapay zekada daha sıkı güvenlik önlemleri gerektiğini belirtti

Microsoft AI'ın Üst Yöneticisi (CEO) Mustafa Süleyman, yapay zeka temelli sistemlerin insan kontrolünden çıkmasını önlemek için bu teknolojilerin geliştirilmesinde daha sıkı güvenlik önlemlerine ihtiyaç olduğunu belirtti.

ABD'de yapay zeka temelli teknolojilerin gelişim hızına ilişkin kamuoyu endişelerinin artması ve sektör liderlerinin yavaşlama çağrısında bulunmasının ardından bu teknolojiyi denetleme önerileri tartışılıyor.

Konuya ilişkin BBC'ye konuşan Süleyman, yapay zekaya ilişkin artan endişelerin haklı olduğunu ve bu teknolojinin insan kontrolünden çıkmasını önlemek için daha sıkı güvenlik önlemlerine ihtiyaç duyulduğunu vurguladı.

Yapay zeka temelli sistemlerin geliştirilme sürecinde ek güvenlik önlemleri, denetimler ve kontrollerin uygulanabileceğini vurgulayan Süleyman, bu tür sistemlere "insanmış gibi" yaklaşılmasının riskleri artırabileceği uyarısında bulundu.

Süleyman, bu yaklaşımın yapay zekayı insanlarla rekabet edebilecek sistemlere dönüştürebileceğini savundu.

Anthropic CEO'sundan yapay zeka gelişimini yavaşlatma önerisi

ABD'li yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, firmadaki araştırmacı Jacob Coxon'ın yapay zeka konusunda yeterince sorumlu davranılmadığı gerekçesiyle istifasının ardından internet sitesinde makale yayımlamıştı.

Amodei, yapay zeka teknolojisinin hızla gelişmesinin, sistemleri anlama ve kontrol etme kapasitesini zora sokabileceği uyarısı yaparak, bu teknolojinin gelişiminin denetime daha fazla olanak sağlayacak şekilde yavaşlatılması önerisinde bulunmuştu.

Yapay zeka şirketlerinin bir araya gelerek güvenlik standartları belirlemesi gerektiğine dikkati çeken Amodei'ye, Elon Musk destek vermiş, OpenAI Üst Yöneticisi Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda aynı adımı atacağını kaydetmişti.