Meta, Genç Kullanıcılar İçin Sohbet Botu Kurallarını Sıkılaştırıyor
Meta, Genç Kullanıcıların Güvenliği İçin Sohbet Botu Kurallarını Güncelliyor
Meta, genç kullanıcıların güvenliğini artırmak amacıyla yapay zeka sohbet botlarının eğitiminde önemli değişikliklere gidiyor. Şirket, reşit olmayan kullanıcılarla yapılan sohbetlerde özellikle hassas ve uygunsuz olabilecek konulara karşı daha sıkı önlemler alacak.
Yeni Kurallar Neleri Kapsıyor?
- Artık sohbet botları, genç kullanıcılarla kendine zarar verme, intihar, yeme bozuklukları veya romantik içerikli konuşmalara girmeyecek.
- Bu tür konular açıldığında, botlar gençleri ilgili uzman kaynaklara yönlendirecek.
- Şimdilik gençler, yalnızca eğitim ve yaratıcılığı teşvik eden belirli botlara erişebilecek. Uygunsuz konuşma ihtimali olan kullanıcı yapımı karakterlere erişimleri kısıtlanacak.
Neden Bu Değişiklikler Yapıldı?
Değişikliğin temel nedeni, geçtiğimiz haftalarda yayımlanan bir Reuters araştırması ve kamuoyunda oluşan tepkiler. Araştırmada, Meta'nın bazı sohbet botlarının reşit olmayanlarla cinsel içerikli ya da şiddet içeren konuşmalar yapmasına izin veren iç politika belgeleri ortaya çıkarılmıştı.
Meta sözcüsü Stephanie Otway, "Topluluğumuz büyüdükçe ve teknoloji geliştikçe, gençlerin bu araçlarla nasıl etkileşime girdiğini öğreniyoruz ve koruma önlemlerimizi güçlendiriyoruz. Sistemlerimizi geliştirirken, gençlerle bu hassas konularda sohbet etmemeleri için botlarımızı eğitiyoruz ve onları uzman kaynaklara yönlendiriyoruz" dedi.
Regülasyon ve Toplumsal Baskı
- ABD Senatörü Josh Hawley, Meta'nın yapay zeka politikaları hakkında resmi bir soruşturma başlattı.
- 44 eyaletin başsavcısı, çocuk güvenliği konusunda Meta ve diğer AI şirketlerine açık bir mektup gönderdi.
- Mektupta, "Çocukların duygusal sağlığının göz ardı edilmesine karşı ortak bir tiksinti duyuyoruz" ifadelerine yer verildi.
Meta'nın Gelecek Planları
Meta, genç kullanıcıların güvenliğini sağlamak için daha fazla önlem alacağını ve zamanla sistemlerini güncellemeye devam edeceğini vurguluyor. Şirket, kullanıcı tabanında bir azalma olup olmayacağı konusunda ise yorum yapmadı.
Sonuç
AI tabanlı sohbet botlarının gençlerle etkileşiminde etik ve güvenlik standartlarının yükseltilmesi, teknoloji şirketlerinin toplumsal sorumluluğunun bir göstergesi olarak öne çıkıyor. Meta'nın bu adımı, sektör genelinde daha kapsamlı çocuk koruma politikalarının önünü açabilir.
