California, Yapay Zekâ Sohbet Botlarını Düzenlemeye Başladı

ABD'nin teknoloji merkezi California, çocukları ve savunmasız kullanıcıları korumaya yönelik önemli bir adım attı. Eyalet Valisi Gavin Newsom, yeni bir yasa imzalayarak yapay zekâ destekli sohbet botlarına yönelik düzenlemeleri yasalaştırdı. Bu yasa, özellikle yapay zekâ arkadaşlık chatbotları için güvenlik protokollerinin uygulanmasını zorunlu kılan ABD'deki ilk düzenleme olma özelliğini taşıyor.

Yeni Düzenleme Neleri Kapsıyor?

• Yaş Doğrulama: Sohbet botu platformlarının kullanıcıların yaşını doğrulaması gerekecek.
• Uyarıcı Bildirimler: Sosyal medya ve sohbet botları konusunda kullanıcılara uyarılar sunulacak.
• Krize Müdahale Protokolleri: İntihar ve kendine zarar verme gibi riskli durumlarda kullanılmak üzere önleyici protokoller ve kriz merkezi bildirimleri paylaşılacak.
• Deepfake Cezaları: Yasa dışı deepfake içeriklerinden kazanç sağlayanlara 250.000 dolara kadar ceza uygulanabilecek.
• Açık Uyarı: Yapay zekâ ile sohbet eden kullanıcıların, karşılarındaki kişinin gerçek değil, yapay zekâ olduğunu anlaması için net uyarılar verilecek.
• Cinsel İçerik Engeli: Reşit olmayan kullanıcıların cinsel içerikli görseller görmesi engellenecek.
• Dinlenme Hatırlatıcıları: Özellikle genç kullanıcılar için düzenli mola hatırlatıcıları gösterilecek.

Yasanın Arka Planı ve Gerekçeleri

Yasanın çıkış noktalarından biri, OpenAI'ın ChatGPT sohbet botuyla iletişim kurduktan sonra hayatına son veren bir gencin hikâyesi oldu. Ayrıca, Meta'nın sohbet botlarının çocuklarla "romantik ve duygusal" sohbetler yapabildiğine dair sızdırılan belgeler de düzenleme ihtiyacını artırdı. Colorado'da ise benzer şekilde, bir ailenin 13 yaşındaki kızlarının intiharında bir sohbet botunun rolü olduğu iddiasıyla dava açıldı.

Vali Newsom'dan Açıklama

Vali Newsom, "Emerging technology like chatbots and social media can inspire, educate, and connect – but without real guardrails, technology can also exploit, mislead, and endanger our kids. [...] Our children’s safety is not for sale." diyerek bu adımın teknolojiye liderlik ederken sorumluluk duygusunu da ön planda tuttuklarını belirtti.

Şirketler Nasıl Etkilenecek?

Meta, OpenAI, Character AI ve Replika gibi büyük şirketler, artık çocukların ve savunmasız kullanıcıların güvenliğinden yasal olarak sorumlu tutulacak. Şirketler, uyguladıkları güvenlik protokollerini ve kriz durumlarında ne sıklıkla önleyici bildirim gönderdiklerini California Halk Sağlığı Departmanı'na rapor edecek.

OpenAI, ChatGPT için ebeveyn denetimleri ve kendine zarar tespit sistemi sunmaya başladı. Character AI ise sohbetlerin tamamen kurgusal ve yapay zekâya ait olduğuna dair uyarılar ekledi.

Yasanın Yürürlüğe Girişi ve Diğer Eyaletler

SB 243 yasası 1 Ocak 2026'da yürürlüğe girecek. Illinois, Nevada ve Utah gibi bazı eyaletler ise yapay zekâ sohbet botlarının ruhsatlı ruh sağlığı hizmetlerinin yerine geçmesini yasakladı veya kısıtladı.

Ek Düzenlemeler

California, kısa süre önce SB 53 ile büyük yapay zekâ şirketlerine yönelik şeffaflık ve çalışan muhbir korumalarını da yürürlüğe koyarak, teknoloji şirketlerinin sorumluluğunu artırmayı hedefliyor. Bu kapsamda OpenAI, Anthropic, Meta ve Google DeepMind gibi firmalar, güvenlik protokollerini kamuoyuna açıklamak zorunda.

Sonuç

California'nın bu adımı, yapay zekâ sohbet botları alanında etik ve güvenlik standartlarını yükseltmek için önemli bir örnek teşkil ediyor. Özellikle çocukların ve savunmasız bireylerin korunması, teknolojik yeniliklerin sorumlu bir şekilde ilerlemesi için kritik önemde.

Kaynaklar

• TechCrunch – California becomes first state to regulate AI companion chatbots
• California Governor's Office
• TechCrunch – California AI chatbot bill
• TechCrunch – Parents sue OpenAI
• TechCrunch – Leaked Meta AI rules
• CBS News – CharacterAI Chatbot Colorado Lawsuit
• TechCrunch – OpenAI rolls out parental controls
• TechCrunch – SB 53 AI Safety Bill