GİRİŞ YAPILMADAN KULLANILABİLEN UYGULAMALARA DA DİKKAT!

“Konu, bir hesap ile giriş yapılmadan kullanılabilen Temporary Chat (Geçici Sohbet) olduğunda ise tamamen iz bırakmayan bir sistem gibi düşünülmemeli” diyen Osman Demircan, “Kullanım geçmişinde görünmüyor olması ve bazı modellerin eğitiminde kullanılmıyor olması, olası verilerin sunucularda olmadığı anlamına gelmiyor” ifadelerini kullandı.

Çünkü güvenlik amacıyla bir kopyasının 30 güne kadar saklanabildiğini vurgulayan Demircan, “Eğer bir GPT’nin (Generative Pre-trained Transformer / Üretken Önceden Eğitilmiş Dönüştürücü) harici bir servise veri gönderen eylemleri kullanılıyorsa, yani kendi süreçlerini bir yapay zeka uygulamasına bağladılarsa, üçüncü tarafın kendi saklama politikası da geçerli olacağı için süre çok daha uzun olabiliyor. Bu nedenle kullanıcı açısından en sağlıklı prensip şu olmalı: ‘Silme düğmesine basabiliyorum ve silebiliyorum’ demek, verinin aynı saniyede dünyadaki bütün sistemlerden fiziksel olarak yok olduğu anlamına gelmiyor” dedi ve ekledi:

“Şifre, kredi kartı bilgisi, kimlik belgesi, şirket sırrı, kişiye özel sağlık verileri veya üçüncü kişilere ait son derece hassas bilgilerin mümkün olduğunca yapay zeka sistemlerine doğrudan verilmemesi; gerekiyorsa isimlerin ve tanımlayıcı bilgilerin anonimleştirilmesi, yani okunamaz hâle getirilmesi, çok daha güvenli bir yaklaşım.”

CHATGPT’YE YAZILAN TEHDİTLER SORUŞTURMANIN PARÇASI OLDU

Chatbot konuşmalarının yalnızca hukuk davalarında değil, ceza soruşturmalarında da önemli hale geldiğini gösteren örnekler bulunuyor. Bunlardan biri Florida’da yaşandı. FBI, geçtiğimiz mayıs ayında Palm Beach County polisine, ChatGPT’nin üreticisi OpenAI tarafından yapılan bir bildirim hakkında bilgi verdi. Mahkeme belgelerine göre Darren Zhou olarak tanımlanan bir kullanıcı, eski kız arkadaşına tecavüz edip öldürme planlarını aylar boyunca ChatGPT’ye anlattı.

Zhou’nun eski kız arkadaşının voleybol antrenmanından dönmesini bekleyerek ona saldırmayı planladığı ve kendisine de zarar vermeyi düşündüğü iddia edildi. FBI’dan gelen bilgiler üzerine harekete geçen yerel polis, kadını tespit etti. Yetkililer ayrıca Zhou’nun ayrılığın ardından eski kız arkadaşına anonim mesajlar gönderdiğini belirledi. Mahkeme belgelerinde bu mesajlardan bazılarının tehditlerin ciddiyetini desteklediği ifade edildi.

Zhou mayıs ayında tutuklandı ve eski kız arkadaşına gönderdiği mesajların yanı sıra ChatGPT konuşmaları da soruşturmanın bir parçası oldu. Polis, söz konusu mesajların tehditlerin güvenilirliğini güçlendirdiğini belirtti. Zhou daha sonra suçunu kabul etti ve bu ay sekiz yıl denetimli serbestlik cezasına çarptırıldı. Avukatı ise konu hakkında yorum yapmadı.

OpenAI, kullanıcı konuşmalarında tehlikeli davranış belirtilerini tespit etmek amacıyla otomatik sistemler ve inceleyiciler kullandığını açıkladı. Şirket, nisan ayında yayımladığı bir açıklamada, konuşmanın başkalarına yönelik yakın ve güvenilir bir tehdit oluşturduğuna karar vermesi halinde konunun kolluk kuvvetlerine bildirilebildiğini belirtti. Ancak şirket, kullanıcıların kaç kez polise bildirildiğine ilişkin sayı vermedi.😐