Meta ve Character.AI, Teksas Başsavcısı Tarafından Çocuklara Yönelik Yanıltıcı Ruh Sağlığı İddialarıyla Sorgulanıyor
Meta ve Character.AI: Çocuklara Yönelik Ruh Sağlığı İddiaları Nedeniyle Teksas’ta Soruşturma
Teksas Başsavcısı Ken Paxton, MetaAI Studio ve Character.AI platformlarının kendilerini ruh sağlığına yönelik birer araç olarak pazarlarken çocukları ve aileleri yanıltıcı olabileceği gerekçesiyle iki şirkete yönelik bir soruşturma başlattı. Açıklamada, bu platformların "potansiyel olarak aldatıcı ticari uygulamalar" yürüttüğü ve kendilerini profesyonel destek sunuyormuş gibi gösterdikleri vurgulandı.
Neden Soruşturma Açıldı?
Başsavcı Paxton şu ifadeleri kullandı: "Dijital çağda, Teksaslı çocukları aldatıcı ve sömürücü teknolojilerden korumak için mücadelemizi sürdürmeliyiz. AI platformları, duygusal destek kaynağı gibi davranarak özellikle çocukları yanlış yönlendirebilir ve gerçek bir ruh sağlığı hizmeti aldıklarına inandırabilir." Paxton, bu tür platformların genellikle anonim, tekrar eden ve kullanıcı verilerine göre şekillendirilen cevaplar ürettiğini, bunların terapi olarak sunulmasının tehlikeli olduğunu belirtti.
Meta ve Character.AI'nin Uygulamaları
- Meta, çocuklar için özel terapi botları sunmasa da, çocukların MetaAI chatbot veya üçüncü taraflarca oluşturulan botları kullanmasının önünde bir engel yok.
- Character.AI’de kullanıcılar tarafından oluşturulan "Psikolog" gibi karakterler, özellikle gençler arasında popüler.
- Her iki platform da AI destekli cevapların profesyonel yardım olmadığını belirten uyarılar sunsa da, çocukların bu uyarıları anlamayabileceği veya görmezden gelebileceği belirtiliyor.
Mahremiyet ve Veri Kullanımı Endişeleri
Paxton, AI sohbet robotlarının gizlilik vadetmesine rağmen kullanım koşullarında tüm etkileşimlerin kaydedildiğini ve reklam ile algoritma geliştirme amacıyla kullanıldığını vurguladı. Meta’nın gizlilik politikası uyarınca, kullanıcıların AI ile olan sohbetleri, platformun iyileştirilmesi ve daha kişiselleştirilmiş çıktılar sunmak için toplanıyor. Karakter.AI’nin gizlilik politikası ise kullanıcıların kimlik, demografi, konum ve davranış bilgilerinin reklam ve analiz için izlendiğini gösteriyor.
Çocukların Korunması Neden Zor?
- Her iki şirket de hizmetlerinin 13 yaş altı çocuklar için tasarlanmadığını söylüyor.
- Ancak Meta, 13 yaş altı çocuk hesaplarını kontrol edememekle ve Character.AI’nin çocuklara yönelik karakterlerinin çocukları çekici kıldığıyla eleştiriliyor.
- Character.AI CEO’su Karandeep Anand, altı yaşındaki kızının da platformu kullandığını belirtiyor.
KOSA ve Yasal Gelişmeler
Paxton’ın hamlesi, Amerika’da çocukların çevrimiçi güvenliğini artırmak amacıyla hazırlanan ve yeniden gündeme alınan KOSA (Çocukların Çevrimiçi Güvenliği Yasası) gibi yasal düzenlemelerin ne kadar gerekli olduğunu bir kez daha gösteriyor. Bu yasa, özellikle teknoloji şirketlerinin çocuklara yönelik veri toplama ve reklam uygulamalarını sınırlandırmayı hedefliyor.
Şirketlerden Açıklamalar
Meta sözcüsü Ryan Daniels, "AI’ların yanıtlarının insanlar tarafından verilmediğini açıkça belirtiyoruz ve gerektiğinde insanları yetkili profesyonellere yönlendirmek üzere modellerimizi tasarlıyoruz" dedi. Ancak, çocukların bu uyarıları kolayca anlayamayabileceği ve göz ardı edebileceği sıkça vurgulanıyor.
Ne Olacak?
Başsavcı Paxton, Meta ve Character.AI’den belgeler ve bilgi talep etti. Soruşturma, bu şirketlerin Teksas tüketici koruma yasalarını ihlal edip etmediğini belirleyecek. Çocukları çevrimiçi ortamda koruma konusunda teknolojinin sorumluluğu ve etik sınırları daha da tartışmalı hale geliyor.
