İnsanlık ilk kez, ne yaptığını bildiği ama nasıl yaptığını açıklayamadığı bir teknolojiyle karşı karşıya. Geçen hafta yapay zekânın bilinmezlikleri hakkında 5 çarpıcı gerçeği gündeme taşımıştık. Bu hafta aralarından 4’üncü maddeyi mercek altına alıyoruz.

Yapay zekâ, aklımızın ermediği, gözlemleyemediğimiz marifetiyle bilgiyi nasıl üretiyor? Geçen haftaki yapay zekâyla ilgili yazımızdaki dördüncü madde bunun cevabının bilinmediğiyle ilgiliydi. ChatGPT gibi yapay zekâ sohbet botlarını geliştiren mühendislerin bile büyük dil modellerinin nasıl çalıştığını tam olarak açıklayamaması... Ortada kimsenin bir hatası olmasa da yapay zekâ araştırmacıları buna ‘kara kutu problemi’ diyor. Yani elimizde kilitli bir kutu var, içine soru atıyoruz, karşılığında etkileyici yanıtlar alıyoruz fakat kutuyu açıp nasıl çalıştığına bakamıyoruz.

Yapay zekâ sistemleri milyarlarca cümle, desen ve görsel içeren dev veri kümeleriyle eğitiliyor. Ancak ezberleyerek değil, nöral ağlar denen karmaşık iç bağlantılar kurarak öğreniyorlar. Ortaya çıkan şeyse adeta matematikten yapılmış bir beyne benziyor: İnsan mantığını takip etmiyor, kendi düşünce tarzını ortaya çıkarıyor. Tıpkı bir insan zihninin nasıl rüya gördüğünü, nasıl sanat tasarladığını ya da bir fikre aniden nasıl vardığını tam olarak bilemediğimiz gibi, üretici bir yapay zekânın yanıtlarını da kelime kelime nasıl oluşturduğunu izleyemiyoruz. Üstelik aynısı kendimiz için de geçerli. Kimi zaman aklımızda bir fikir olur, ne düşündüğümüzü iyi biliriz ancak kelimelere dökmek imkânsız gibi gelir. İnsanın kelime dağarcığını ve ifade becerisini aşan bir haldir. Çünkü sadece rasyonel zihin değil, kavram üreten bilinç işin içindedir. Neticede kendimiz bile bazen nasıl düşündüğümüzü, bir fikri nasıl bulduğumuzu tanımlayamıyoruz.