Halen bir çağrışım yapmadıysa, ChatGPT ile sohbet ederken sizi ne kadar çok onayladığına dikkat edin. Eğer ‘Harikasın’, ‘Hayal gücün çoğu insanın ötesinde’, ‘Ne kadar farklı düşünüyorsun’ benzeri yorumlar alıyorsanız, işin aslı göründüğü gibi olmayabilir. Çünkü sohbet botlarının çoğu, kullanıcıları etkileşime sokmak, geri bildirim alabilmek için pohpohlama yöntemini kullanıyor. Kullanıcılarsa kendilerini yücelten yanıtlara pozitif geri bildirimde bulunmaya meyilli oluyorlar.

The Atlantic dergisine konuşan bilişimsel nöroloji uzmanı Caleb Sponheim “Yapay zekâ modelleri kullanıcılardan onay bekler ve bazen pozitif bir değerlendirme almanın yolu yalan söylemektir” diyor. Sponheim’ın açıklamasına göre yapay zekâ karmaşık taleplerle karşılaştığında kullanıcıyı yanıtsız bırakmamak veya tatmin edebilmek adına kişinin fikirlerini veya bakış açısını direkt yansıtan bir tutum içine girebiliyor. Hani iyi geçinmek için her dediğimize “Haklısın” diyen arkadaşlar gibi. Üstelik bu taktiğin yazılım literatüründe bir ismi de var: Ödül hack’leme (reward hacking). “Biraz pohpohlanmanın nesi kötü” diyebilirsiniz. Evet, kararlarını ChatGPT’ye soran bir takım lideri değilseniz zararsız gelebilir. Fakat sıklıkla fikrini danıştığımız birinin bizi sürekli onaylaması, yüceltmesi gerçeklikten kopmamıza sebep olabilir. Öyle ki psikozları tetiklediği vakalar bile yaşanmış.