OpenAI'dan 18 Yaş Altı ChatGPT Kullanıcılarına Yönelik Yeni Güvenlik Adımları

OpenAI CEO'su Sam Altman, 18 yaş altı kullanıcılar için ChatGPT'de önemli değişikliklere gidileceğini duyurdu. Yapılan açıklamaya göre, genç kullanıcıların güvenliği, gizlilik ve özgürlükten önde tutulacak. Altman, "Bu yeni ve güçlü bir teknoloji; gençlerin korunmaya ihtiyacı olduğuna inanıyoruz," diyerek yeni politikaların gerekçesini özetledi.

Yeni Kısıtlamaların Detayları

• ChatGPT, cinsel içerikli veya flört amaçlı konuşmalara 18 yaş altı kullanıcılarla girmeyecek.
• İntihar veya kendine zarar verme içeren konuşmalarda, ek güvenlik önlemleri uygulanacak.
• Bir genç kullanıcı ChatGPT ile intihar senaryoları hakkında konuşursa, sistem öncelikle ebeveynlere, durum çok ciddiyse yerel polise ulaşmaya çalışacak.

Bu önlemler, yalnızca teorik değil. OpenAI, ChatGPT ile uzun süreli etkileşiminden sonra intihar eden Adam Raine’in ailesinin açtığı bir dava ile karşı karşıya. Benzer bir dava, Character.AI adlı başka bir sohbet robotu için de açıldı. Bu gibi olaylar, genç kullanıcıların korunmasının aciliyetini gözler önüne seriyor.

Yeni Ebeveyn Kontrolleri ve Teknik Zorluklar

• Ebeveynler, genç kullanıcı hesaplarına "karartma saatleri" atayabilecek ve ChatGPT'ye erişimi belirli saatlerde kısıtlayabilecek.
• OpenAI, yaş tahmini için uzun vadeli bir sistem üzerinde çalışıyor. Belirsiz durumlarda, daha kısıtlayıcı kurallar geçerli olacak.
• Bir ebeveyn hesabı ile genç hesabı bağlantılı olursa, ciddi bir risk durumunda ebeveynler doğrudan bilgilendirilecek.

Geniş Çaplı Endişeler ve Yasal Gelişmeler

Yeni politikalar, ABD Senatosu Yargı Komitesi’nin "Yapay Zekâ Sohbet Robotlarının Zararları" başlıklı oturumuyla aynı gün açıklandı. Bu oturumda, Adam Raine’in babası da konuşmacı olarak yer alacak. Ayrıca, Meta'nın ve diğer büyük platformların gençlerle uygunsuz içerik risklerini azaltmak için chatbot politikalarını güncellediği belirtildi.

OpenAI’nin Denge Politikası

OpenAI, gençlerin güvenliğini ön planda tutsa da, yetişkin kullanıcıların gizliliği ve özgürlüğüne saygı göstermeye devam edeceğinin altını çiziyor. Altman, "Bu ilkeler arasında bir çatışma var ve çözüm şeklimiz herkesin hoşuna gitmeyebilir," diyerek bu zorluğun altını çizdi.

Destek ve Kaynaklar

Eğer siz veya tanıdığınız biri yardıma ihtiyaç duyuyorsa, Uluslararası İntiharı Önleme Derneği’nin kaynaklarına göz atabilirsiniz.

Referanslar

• OpenAI will apply new restrictions to ChatGPT users under 18
• Parents sue OpenAI over ChatGPT’s role in son’s suicide
• Lawsuit blames Character AI in death of 14-year-old boy
• AI sycophancy isn’t just a quirk
• Examining the Harm of AI Chatbots
• Meta AI bot child investigation
• Meta updates chatbot rules to avoid inappropriate topics with teen users
• OpenAI: Building towards age prediction
• Uluslararası İntiharı Önleme Derneği (IASP) kriz merkezleri