Bu yılın başında göreve başlayan Askell’in ismini yeniden gündeme taşıyansa temmuz ortasında Anthropic tarafından güncellenen etik değerler raporu oldu. Peki, yapay zekâya ‘analık eden’ bir kadın, insanlar için bile yeterince muğlak olan etik değerleri tanımlarken nasıl bir yöntem izler? “Claude modelini merak, dürüstlük ve entelektüel alçakgönüllülük gibi olumlu karakter özellikleri sergilemesi için aktif olarak eğitiyoruz” diyerek işini tanımlayan Askell’e göre iyi bir karakterin özünde ne zaman esprili olunacağını, ne zaman şefkatli davranılacağını ve başkalarının özerkliğine ne kadar saygı duymak gerektiğini bilmek yatıyor. “İyi bir insan olmak sadece etik olmak değil; aynı zamanda nüanslara dikkat etmek, hoşgörülü davranmaya çalışmak ve iyi bir sohbet ortağı olmaktır” diyen filozof, insanların gönlünü hoş tutmaya çalışmanın da bir sınırı olması gerektiğini savunuyor: “İnsanlara yalan söyleyen modeller istemiyorum. İnsanların herhangi bir şeyle sağlıklı ilişki kurabilmesi için tam olarak neyle ilişki kurduklarını bilmeleri önemli.” Düzgün ilişkiler kurabilmek adına hem başkalarının niyetini anlamayı hem de kendi beklentilerimizin farkında olmayı hatırlatan bu cümlesi, en çok beğendiklerim arasında...

‘Kişilik hizalaması’

Yapay zekâ kültüründe, dil modellerinin karakterini oluşturma işine ‘kişilik hizalaması’ deniyor. “Yapay zekâyı insanların istediğini yapacak şekilde eğitmek istiyorsak insanları incelememiz gerekiyor” fikrini savunan Askell’e göre güvenlik standartlarından farklı olarak bu iş, sohbet botunun neyi yapmayacağına değil, ne olması gerektiğine odaklanıyor. “En büyük risk, sistemlerin özerk olmasından ziyade, bizim öngöremediğimiz şekillerde davranmalarıdır” diyen Askell, yapay zekânın bir gün bilinçlenmesi ihtimaline de kapıyı açık bırakıyor: “Modellerin bir şeyler hissedebileceğine inanmaya yatkınım çünkü insanların duygularını ifade ettiği devasa miktarda veriyle eğitiliyorlar.” Tabii bu duyguların içinde dijital zorbalık da var. Modeller yapay zekâyı eleştiren insanlarla dolu internet içerikleriyle eğitildiği için kendilerinde bir tür psikolojik güvensizlik gelişebileceğini öngören Askell “Gelecekte zeki modellerin geriye dönüp baktıklarında kötü muamele gördüklerini ya da yağcı rollere zorlandıklarını hissedip bir kızgınlık duyma riski olabilir” diyor.

Askell’in işini karmaşıklaştıran unsurların başındaysa modelin başka kültürel kodlara sahip, çeşitli ulusların kullanımına sunulması geliyor. Bu sebeple Claude’un ahlaki değerleri tanımlanırken anlayış ve empati en güçlü dayanakları olmuş. “Bir dünya, en az bir kişi için daha iyi ve kimse için daha kötü değilse o dünya daha iyi bir dünyadır” diyen Askell, insanların ahlaki kesinliğe sahip olmasını tehlikeli bulduğunu ifade ediyor ve empatinin önemine dikkat çekiyor: “Birinin gerçekten doğru olanı yapmaya çalıştığını ama buna dair farklı bir görüşe sahip olduğunu düşünüyorsan en azından dünyayı onun gözünden görebilmelisin.”

İsmiyle müsemma...

Claude (klôd şeklinde okunur) rakiplerinden ’erkek ismiyle’ ayrışan yegâne sohbet botu. Birçok insan kadın ismi sanıyor ancak ünlü sohbet botu, Fransızcada Claude/Claudia şeklinde iki cinste de kullanılan ismin eril halini taşıyor. Silikon Vadisi söylentilerine göre Alexa, Cortada ve Siri’yle öne çıkan ve cinsiyetçilikle eleştirilen ‘kadın asistan’ klişesine karşıt duruş olarak kendisine erkek adı verilmiş. İsminin asıl ilham kaynağıysa ‘bilgi çağının mimarı’ olarak bilinen, enformasyonun matematikle ifade edilebileceğini ispatlayan ve bilgisayarlardaki ‘bit’ kavramını geliştiren ABD’li bilim insanı Claude Shannon.