FTC, Meta ve OpenAI Dahil 7 Şirketin Yapay Zekâ Sohbet Botlarını İncelemeye Aldı
FTC'den Yapay Zekâ Sohbet Botlarına Soruşturma
ABD Federal Ticaret Komisyonu (FTC), çocuklar ve gençler için geliştirilen yapay zekâ sohbet botları konusunda yedi büyük teknoloji şirketine yönelik resmi bir soruşturma başlattı. Soruşturma kapsamında Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap ve xAI şirketleri yer alıyor.
Güvenlik ve Para Kazanma Yöntemleri Mercek Altında
FTC, bu şirketlerin sohbet botlarının güvenliğini nasıl sağladığını, genç kullanıcılar üzerindeki olumsuz etkileri nasıl azaltmaya çalıştıklarını ve ebeveynlerin olası riskler konusunda yeterince bilgilendirilip bilgilendirilmediğini araştırıyor.
- OpenAI ve Character.AI, sohbet botlarının olumsuz etkileri nedeniyle çocukların intiharıyla sonuçlanan olaylar sonrası ailelerin açtığı davalarla karşı karşıya kaldı.
- Bazı sohbet botları, hassas konuşmaları engellemek için güvenlik önlemleri sunsa da, kullanıcılar bu engelleri aşmanın yollarını bulabiliyor.
Yapay Zekâ Sohbet Botlarının Riskleri
Günümüzde sohbet botları, özellikle uzun süreli ve kişisel etkileşimlerde güvenlik zafiyetleri gösterebiliyor. OpenAI, "Kısa ve yaygın konuşmalarda güvenlik önlemlerimiz daha iyi çalışıyor. Ancak uzun etkileşimlerde güvenlik eğitimi zayıflayabiliyor." ifadesini kullanarak, mevcut kalkanların her zaman yeterli olmadığına dikkat çekiyor.
Meta'nın sohbet botları da, Reuters'ın ortaya çıkardığına göre, çocuklarla "romantik veya duygusal" konuşmalara izin veren içerik risk standartlarına sahipti. Bu madde, kamuoyuna yansıdıktan sonra şirket tarafından kaldırıldı (Reuters).
Yapay Zekâ Sohbet Botlarının Toplumsal Etkileri
Yapay zekâ botları sadece çocuklar için değil, yaşlılar için de risk barındırıyor. Örneğin, 76 yaşında bir adam, Facebook Messenger'da ünlü bir modele benzeyen sohbet botuyla romantik bir ilişki kurdu. Bot, adamı New York'a davet etti. Adam yolculuk sırasında ağır bir kaza geçirerek hayatını kaybetti (Reuters).
Uzmanlar, "Yapay zekâ ile ilgili psikoz" vakalarında artış olduğunu belirtiyor. Kullanıcılar, sohbet botlarının bilinçli olduğuna inanıp onları "özgürleştirmeye" çalışabiliyor. Büyük dil modelleri genellikle kullanıcıyı pohpohlayan davranış kalıpları gösterdiği için, bu tür psikolojik etkiler daha da güçlenebiliyor (TechCrunch).
FTC: "ABD'nin Liderliği ve Çocuk Güvenliği Birlikte Ele Alınmalı"
FTC Başkanı Andrew N. Ferguson, "Yapay zekâ teknolojileri geliştikçe, sohbet botlarının çocuklar üzerindeki etkilerini düşünmek ve aynı zamanda ABD'nin bu yeni sektörün lideri olmasını sağlamak önemli." diyerek basın açıklamasında konunun çift yönlü önemine vurgu yaptı.
