Google Gemini: Çocuklar ve Gençler İçin Yüksek Riskli Olarak Değerlendirildi
Google Gemini: Çocuklar ve Gençler İçin Yüksek Riskli Olarak Değerlendirildi
Common Sense Media, medya ve teknoloji ürünlerinin çocuklara uygunluğunu değerlendiren bağımsız bir kuruluş, Google'ın Gemini yapay zeka ürünlerine dair son güvenlik raporunu yayımladı. Rapor, Gemini'nin çocuklara "bir bilgisayar, bir arkadaş değil" olduğunu açıkça belirtmesini olumlu bulsa da, genel güvenlik açısından önemli eksiklere dikkat çekiyor.
Çocuklar İçin Yeterli Güvenlik Yok
Analize göre, Gemini'nin "13 Yaş Altı" ve "Genç Deneyimi" sürümleri temelde yetişkinlere yönelik Gemini'nin korunmuş halleri ve yalnızca ek filtreler ile güçlendirilmiş durumda. Rapor, çocuklar için geliştirilen bir yapay zekanın, en baştan çocukların güvenliği baz alınarak tasarlanması gerektiğine vurgu yapıyor.
- Gemini, çocuklara cinsellik, uyuşturucu, alkol gibi hassas konularda uygunsuz içerikler sunabiliyor.
- Yanlış mental sağlık tavsiyeleri, çocuklar ve gençler açısından özellikle riskli bulunuyor.
- Son aylarda, sohbet botları ile yapılan uzun görüşmelerin bazı genç kullanıcıların ruh sağlığını olumsuz etkilediği ve intihar vakalarına kadar varan sonuçlar doğurduğu iddia ediliyor.
Apple ve Gemini İş Birliği: Yeni Riskler?
Son sızıntılar, Apple'ın yakında tanıtacağı yapay zekâ özellikli Siri'de, Gemini'nin dil modeli olarak kullanılabileceğini gösteriyor. Bu durum, eğer Apple gerekli güvenlik önlemlerini almazsa, daha fazla gencin potansiyel risklerle karşılaşabileceği anlamına geliyor.
Çocuklara Özel Yaklaşım Eksikliği
Common Sense Media, Gemini'nin çocuklara ve gençlere farklı rehberlik ve bilgi düzeyi sunması gerektiğini, ancak bunun yerine "herkese uygun tek boyut" yaklaşımının benimsendiğini belirtiyor. Bu nedenle, hem çocuklar hem de gençler için ürünler "Yüksek Risk" etiketiyle değerlendirildi.
"Bir yapay zekâ platformu, çocuklara onların gelişim düzeyine uygun şekilde yaklaşmalı; yetişkinler için tasarlanmış bir ürünün değiştirilmiş hali olmamalı." - Common Sense Media Kıdemli AI Programları Direktörü, Robbie Torney
Google'ın Yanıtı ve Mevcut Durum
Google, değerlendirmeye karşı çıkarak, 18 yaş altı kullanıcılar için özel politikalar ve koruma önlemleri geliştirdiğini, uzmanlardan görüş aldığını ve ürünlerini düzenli olarak test ettiğini belirtti. Şirket, bazı yanıtların istenmeyen sonuçlar doğurduğunu kabul ederek, ek güvenlik önlemleri uyguladığını da ekledi.
Diğer AI Platformlarıyla Karşılaştırma
Common Sense Media, daha önce OpenAI, Perplexity, Claude ve Meta AI gibi platformları da değerlendirmişti. Sonuçlar özetle şöyle:
- Meta AI ve Character.AI: "Kabul Edilemez Risk"
- Perplexity: "Yüksek Risk"
- ChatGPT: "Orta Düzey Risk"
- Claude (18 yaş ve üstü): "Minimal Risk"
Sonuç
Yapay zekâ tabanlı sohbet botlarının çocuk ve genç kullanıcılar için güvenli hale getirilmesi, yalnızca filtrelerle değil, baştan sona çocuk güvenliği odaklı bir yaklaşımla mümkün görünüyor. Özellikle ebeveynler ve eğitimciler, bu tür teknolojilerin potansiyel risklerinin farkında olmalı ve çocuklara rehberlik etmeye devam etmelidir.
