Hubinger, yapay zekâ sistemlerinin insan değerleri ve etik ilkelerle uyumlu çalışmasını sağlamayı amaçlayan "yapay zekâ uyumu" alanında çalışmalar yürütüyor.

"YAKINDA İNSANÜSTÜ SİSTEMLER OLACAK"

Hubinger'in açıklaması, daha önce Anthropic ve OpenAI'da çalışan yapay zekâ araştırmacısı Jacob Coxon'ın değerlendirmelerine yanıt olarak geldi.

Coxon, yapay zekâ şirketlerinin yeterince sorumlu davranmadığını savunarak gelecekteki sistemlerin "her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yapabilecek ve gerçek güç ve kaynak elde edebilen insanüstü sistemlere" dönüşebileceğini öne sürdü.

ANTHROPIC HAKKINDA DİKKAT ÇEKEN HABER

Financial Times ise Anthropic'in en yeni modelini, yapay zekâ risklerini değerlendiren İngiltere Yapay Zekâ Güvenliği Enstitüsü'nden (AISI) gizlediğini bildirdi. Anthropic konuya ilişkin açıklama yapmazken İngiliz hükümeti, şirketlerle yapay zekâ modellerini daha güvenli hâle getirmek amacıyla çalışmaların sürdüğünü belirtti.

Cambridge Üniversitesi Makine Öğrenimi Profesörü Neil Lawrence ise söz konusu haberin ABD ile Çin arasındaki yapay zekâ rekabeti düşünüldüğünde şaşırtıcı olmadığını ifade etti.

YAPAY ZEKÂ ŞİRKETLERİNDEN PEŞ PEŞE UYARILAR

Yapay zekânın oluşturabileceği varoluşsal riskler teknoloji dünyasında uzun süredir tartışılıyor. OpenAI, Google DeepMind ve Anthropic yöneticileri de 2023 yılında gelişmiş yapay zekânın insanlık açısından oluşturabileceği risklere karşı uyarıda bulunmuştu.

OpenAI Baş Bilim Yetkilisi Jakub Pachocki de yapay zekânın gelişimi konusunda "aşırı temkinli" olunması gerektiğini belirterek insanların geleceğin kontrolünü elinde tutmasını sağlamak için daha fazla müdahaleye ihtiyaç duyulabileceğini ifade etti.