SONRA LABORATUVARLARIN İÇİNDEN SESLER GELİYOR

İşte Jacob Coxon olayı tam burada farklılaşıyor. Vaftiz babalarının uyarıları bir süredir vardı. Şimdi bu uyarıların yanına AI’ı bugün geliştiren kuşağın iç sesleri ekleniyor. Anthropic’te alignment alanında çalışan Evan Hubinger, Coxon’ın temel endişesine katılıyor.

OpenAI’ın güvenlik çevresindeki Paul Christiano ise sektörün “katastrofik ve geri döndürülemez kontrol kaybı” riskini kabul edilebilir seviyeye indirme yolunda olmadığını söylüyor. Yani tablo değişti. Eskiden iki taraf var gibiydi; AI şirketleri ve AI’dan korkan dışarıdakiler. Şimdi tartışma şirketlerin kendi içine girmiş durumda yani ortalık adeta yangın yeri. (Yazıya perşembe günü devam edeceğiz.)😐