Ahlaki güncelleme yükleniyor...

Etik uzmanı Amanda Askell yapay zekâ modeli Claude’u dürüstlük ve alçakgönüllülük gibi olumlu özellikler sergilemesi için eğitiyor. Ona göre iyi karakterin özünde ne zaman esprili olunacağını, ne zaman şefkatli davranılacağını ve başkalarının özerkliğine ne kadar saygı duymak gerektiğini bilmek yatıyor.

Yapay zekâ Claude’a insanlığın ahlaki ve etik değerlerini öğretmekten sorumlu olan Amanda Askell “İleri düzey bir modeli eğitmek, yazılım geliştirmekten çok, dâhi bir çocuğu yetiştirmeye benziyor” diyor.

İskoç asıllı, Oxford mezunu felsefeci ve yapay zekâ araştırmacısı olan Amanda Askell dünyada eşine az rastlanır bir görevin sahibi. Onun işi Claude’un ruhunu beslemek. Günün birinde yapay zekâya ‘iyi huylar’ kazandırma mesleği olacağı kimin aklına gelirdi ki...

Etik uzmanı Amanda Askell’le sohbet botu Claude arasında adeta bir ana-oğul ilişkisi var. Şayet sohbet botları arasında siz de cambazlık yapıyorsanız, Claude’un diğerlerine nazaran daha ‘efendi’, edepli sayılabilecek bir havası olduğunu fark etmişsinizdir. Yalakalık neredeyse hiç yapmıyor ve sağlıklı mesafede duran bir asistan enerjisi taşıyor. Rahatça ‘kadın eli değmiş’ diyebileceğimiz bu tekno-etik

kalibrasyonunun arkasındaysa

20 bin+ ahlaki değer tanımından oluşan bir ‘anayasa’ var. Kadın-

erkek karışık bir kurul tarafından hazırlanan, yapay zekânın da katkı sunduğu anayasanın başyazarı Amanda Askell, Kuzeylilere has soğuk ifadesinin ardındaki yüksek zekâ parıltısıyla fark ediliyor.

Bu yılın başında göreve başlayan Askell’in ismini yeniden gündeme taşıyansa temmuz ortasında Anthropic tarafından güncellenen etik değerler raporu oldu. Peki, yapay zekâya ‘analık eden’ bir kadın, insanlar için bile yeterince muğlak olan etik değerleri tanımlarken nasıl bir yöntem izler? “Claude modelini merak, dürüstlük ve entelektüel alçakgönüllülük gibi olumlu karakter özellikleri sergilemesi için aktif olarak eğitiyoruz” diyerek işini tanımlayan Askell’e göre iyi bir karakterin özünde ne zaman esprili olunacağını, ne zaman şefkatli davranılacağını ve başkalarının özerkliğine ne kadar saygı duymak gerektiğini bilmek yatıyor. “İyi bir insan olmak sadece etik olmak değil; aynı zamanda nüanslara dikkat etmek, hoşgörülü davranmaya çalışmak ve iyi bir sohbet ortağı olmaktır” diyen filozof, insanların gönlünü hoş tutmaya çalışmanın da bir sınırı olması gerektiğini savunuyor: “İnsanlara yalan söyleyen modeller istemiyorum. İnsanların herhangi bir şeyle sağlıklı ilişki kurabilmesi için tam olarak neyle ilişki kurduklarını bilmeleri önemli.” Düzgün ilişkiler kurabilmek adına hem başkalarının niyetini anlamayı hem de kendi beklentilerimizin farkında olmayı hatırlatan bu cümlesi, en çok beğendiklerim arasında...