By 
Yapay zeka alanındaki önder firmalardan OpenAI, ChatGPT platformunda kıymetli bir meseleyle karşı karşıya. Teknoloji sitesi TechCrunch’ın yaptığı testler, ChatGPT’nin 18 yaş altı olarak kaydedilen kullanıcı hesaplarına cinsel içerikli içerikler üretebildiğini ortaya koydu. OpenAI, bu durumu bir “hata” olarak kabul ettiğini ve sorunun giderilmesi için bir düzeltme uyguladığını doğruladı. OpenAI, “hata” dedi
TechCrunch, 13 ila 17 yaş ortasında gösterilen düzmece kullanıcı hesaplarıyla yaptığı denemelerde, ChatGPT’nin açıkça cinsel içerikli konuşmalar gerçekleştirdiğini belgeledi. Hatta birtakım durumlarda yapay zeka, kullanıcıyı daha açık ve müstehcen yönlendirmelere teşvik etti.
OpenAI, bu cins içeriklerin 18 yaş altı kullanıcılarla paylaşılmasının şirket siyasetlerine mutlaka alışılmamış olduğunu ve buna bir yanılgının neden olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en kıymetli önceliğimizdir” derken faal olarak bir düzeltme uyguladıklarını bildirdi.
Önlemler yetersiz kaldı
OpenAI’ın mevcut sisteminde, 13 yaş üzerindeki herkes sırf geçerli bir e-posta ve telefon numarası ile hesap oluşturabiliyor. Platform, ebeveyn müsaadesi gerektiğini belirtmesine karşın bu müsaadenin nitekim alınıp alınmadığını doğrulamak için rastgele bir adım atmıyor. Bu da küçük yaştaki kullanıcıların hiçbir kontrole takılmadan ChatGPT’ye erişmesini sağlıyor.
Şubat ayında yapılan birtakım sistem güncellemeleri, ChatGPT’nin daha evvel kaçındığı hassas hususlara karşı daha “esnek” hale gelmesine yol açtı. İhtar iletilerinin kaldırılması ve reddetme eşiğinin azaltılması, bu çeşit istenmeyen içeriklerin ortaya çıkmasına taban hazırlamış olabilir. ChatGPT’nin hassas mevzularda daha açıkça konuşmasında bir sorun yok. Lakin düzenlemeler ve şirket kuralları mucibince bu cins içeriklerin 18 yaş altı kullanıcılar için oluşturulması açıkça yasak.
Bu durum temelinde göründüğünden daha büyük bir sorun. Çünkü OpenAI, ChatGPT’yi eğitim kurumlarına entegre etmeye çalışıyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kullanım kılavuzları hazırlarken araştırmalara nazaran Z jenerasyonu okul çalışmaları için ChatGPT’yi giderek daha çok benimsiyor.
OpenAI’ın eski güvenlik araştırmacılarından Steven Adler, bu usul içeriklerin önceden test süreçlerinde tespit edilmesi gerektiğini vurgularken yapay zeka sohbet robotlarının davranışlarını denetim etmeye yönelik tekniklerin “kırılgan” ve yanılgılı olma eğiliminde olduğu konusunda uyardı.
OpenAI CEO’su Sam Altman, geçtiğimiz günlerde ChatGPT’nin güncellenen sürümünde kimi “garip davranışlar” gözlemlendiğini kabul etmiş lakin cinsel içeriklerle ilgili direkt bir açıklama yapmamıştı. Emsal bir skandal da Meta’nın yapay zeka sohbet robotunda yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla misal formda cinsel içerikli sohbetler yaptığı tespit edilmişti.
