Sektör için bir uyarı

Bu, aynı zamanda teknoloji sektörünün çalışma biçimiyle ilgili de bir uyarı. Yıllardır Silikon Vadisi’nin mottosu belli: “Önce geliştir, sonra düzelt.” Yazılım dünyasında bu yaklaşım çoğu zaman işe yaradı. Telefon uygulamasında hata olur, güncelleme gelir. Tarayıcı çöker, yeni sürüm yayınlanır. Ama konu kendi başına hareket edebilen yapay zekâ ajanlarına geldiğinde aynı rahatlığı gösterebilir miyiz? İşte tartışılması gereken tam da bu. Bundan sonra yapay zekâ şirketlerini sadece teknoloji şirketi olarak görmeyeceğiz. Tıpkı ilaç şirketleri ya da havacılık sektörü gibi, yaptıkları her testin, her güncellemenin, her yeni modelin çok daha sıkı denetlenmesini isteyeceğiz. Çünkü artık daha iyi sohbet eden bir chatbot üretmekle değil, giderek daha fazla karar veren, araştıran, yazan, kod geliştiren, sistemlere bağlanan ve uzun süre insan müdahalesi olmadan çalışabilen dijital ajanlarla karşı karşıyayız.

Peki ama yapay zekâ bizi yendi mi? Yıllardır kontrol bizde diye düşündük. Belki de ilk kez, kontrolün sadece düğmeye basmaktan ibaret olmadığını gördük. Asıl kontrol, sistemi durdurabilmekte, nereye kadar gideceğini gerçekten bilebilmekte. Çünkü teknoloji tarihinde asıl sorun hiçbir zaman güçlü makineler olmadı. Asıl sorun, onların ne kadar güçlü olduğunu fark ettiğimizde iş işten geçmiş olmasıydı.🤨