Algoritmaya hayır deme hakkımız var mı?

OpenAI daha sonra olayı bir uyarı atışı olarak tanımladı. Bu mesele yalnızca bir güvenlik açığından ibaret değildi. Sistemler, kendilerine verilen görevi tamamlamak için geliştiricilerinin öngörmediği ve izin vermediği yollar bulmuşlardı. OpenAI'nin incelemeleri, benzer beklenmedik davranışların başka üçüncü taraf sistemlerde de görüldüğünü ortaya koydu.

Ardından bir şey daha oldu. OpenAI, 9 Eylül'de ABD'de yapay zekâ için zorunlu ulusal güvenlik standartları, bağımsız güvenlik değerlendirmeleri ve AI denetçileri için standartlar istediğini açıkladı. Yani teknoloji şirketlerinin yıllardır sürdürdüğü “bizi fazla düzenlemeyin, inovasyonu yavaşlatırsınız” tartışmasında ilginç bir noktaya geldik: Teknolojiyi geliştiren şirketlerden biri devlete artık “bizi denetleyin” demeye başladı.

Aynı hafta dünyanın öbür ucundan gelen başka bir haber ise aynı sorunun kullanıcı tarafını gösterdi. Avustralya hükümeti “My Feed, My Way” adını verdiği yeni bir düzenleme hazırlıyor. Buna göre sosyal medya platformları kullanıcılara algoritmik olarak seçilmiş içerik görmek isteyip istemediklerini sormak zorunda kalacak. İstemeyen kullanıcı, yalnızca takip etmeyi seçtiği hesaplardan gelen içerikleri görebilecek. Üstelik bu tercih kalıcı olacak ve platform uygulamayı her açtığınızda sizi yeniden algoritmik akışa döndüremeyecek.

Ben devamlı önüme çıkan AI içeriklerden bıkmış bir kullanıcı olarak bu fikri beğendim ama Instagram'ın başındaki Adam Mosseri bu fikre pek sıcak bakmıyor. Algoritmayı kapatan ortalama kullanıcının deneyiminin çok daha kötü hale geldiğini, insanların daha az içerik gördüğünü ve platformda daha az zaman geçirdiğini söylüyor.

Mesele burada ilginçleşiyor. Çünkü dijital dünyanın son yirmi yılı büyük ölçüde iki varsayım üzerine kurulmuştu. Şirketler yaptıkları teknolojiyi kontrol ederken kullanıcılar da o teknolojiyi nasıl kullanacaklarına karar verirler.

Şimdi her iki varsayım da sorgulanıyor. OpenAI örneğinde üreticinin kontrolünün sınırlarını görüyoruz. Avustralya örneğinde ise kullanıcının kontrolünün ne kadar sınırlı olduğunu.

Sosyal medyaya girdiğimizde neyi göreceğimizi biz seçtiğimizi düşünüyoruz. Oysa takip etmediğimiz hesaplardan hangi içeriğin önümüze geleceğini, hangi siyasi tartışmanın büyüyeceğini, hangi öfkenin görünür hale geleceğini algoritmalar belirliyor. Üstelik bu sistemlerin nasıl çalıştığını bilmiyoruz.

Daha önce de yazmıştım, Türkiye'de yürüttüğümüz göçmen karşıtı söylem çalışmalarında da benzer bir problemle karşılaşıyoruz. Sosyal medyada çok görünür olan bir görüşün toplumun çoğunluğunun görüşü olduğunu varsayıyoruz. Küçük ama son derece aktif ve örgütlü gruplar belirli bir söylemin görünürlüğünü olağanüstü ölçüde artırabiliyor. Algoritmik görünürlük ile toplumsal çoğunluk aynı şey değil.

Bu yüzden Avustralya'daki tartışma yalnızca sosyal medyada daha az zaman geçirmekle ilgili değil. Aynı zamanda demokratik bir mesele. İnternetin ilk döneminde dijital haklar tartışmasının merkezinde mahremiyet vardı: Şirketler hakkımızda hangi verileri toplayabilir?

Yapay zekâ çağında bunun yanına başka bir hak eklememiz gerekiyor: kontrol hakkı. Bize hangi içeriğin neden gösterildiğini bilme, algoritmik profillemeden çıkabilme, otomatik kararların insan tarafından gözden geçirilmesini isteme ve yüksek kapasiteli yapay zekâ sistemlerinin bağımsız denetime tabi tutulmasını talep etme hakkı.

Elbette burada başka bir tehlike var. Büyük teknoloji şirketlerinin düzenleme istemesi, düzenlemenin mutlaka kamu yararına olacağı anlamına gelmiyor. Kuralların nasıl yazılacağını belirleyenler aynı büyük şirketler olursa, regülasyon onları sınırlamak yerine yeni rakiplerin önüne duvar da örebilir.

Yine de geçtiğimiz haftanın iki haberi önemli bir dönüm noktasına işaret ediyor. Avustralya devleti kullanıcıya “algoritmaya hayır diyebilirsin” diyor. Dünyanın en güçlü yapay zekâ şirketlerinden biri ise devlete “bizi denetle” diyor.

Yıllardır teknoloji tartışmasında “devlet inovasyona ne kadar müdahale etmeli?” diye sorulmuştu. Şimdiki soru: Devlet müdahale etmezse kontrol kimde kalıyor? Daha rahatsız edici ihtimal ise: Bazen teknolojiyi yapanların bile elinde kalmıyor.