Microsoft’ın AI Liderinden Uyarı: Yapay Zekâ Bilinci Araştırmaları Tehlikeli mi?

Yapay zekâ (YZ) modelleri, metin, ses ve video üzerinden insanı andıran cevaplar verebiliyor. Ancak bu durum onların gerçekten "bilinçli" olduğu anlamına gelmiyor. Peki, bu modeller bir gün bilinç kazanırsa, hakları olacak mı? YZ bilinci ve hakları konusu teknoloji dünyasını ikiye bölmüş durumda.

YZ Bilinci: Bilim Kurgu mu, Gerçek mi?

Anthropic ve benzeri laboratuvarlarda çalışan bazı araştırmacılar, yapay zekânın bir gün insan benzeri deneyimler yaşayabileceğini ve bu durumda haklarının olup olmayacağını tartışıyor. Bu alan "YZ refahı" (AI welfare) adıyla anılmaya başladı. Ancak Microsoft’un Yapay Zekâ Başkanı Mustafa Suleyman, bu tartışmaları tehlikeli buluyor.

Microsoft’un Duruşu: "Erken ve Tehlikeli"

Mustafa Suleyman, kendi blogunda YZ refahı çalışmalarının "erken ve tehlikeli" olduğunu belirtiyor. Suleyman, YZ'nin bilinç kazanabileceği fikrinin toplumda yanlış algılara yol açtığını ve insanlarda psikolojik sorunları artırabileceğini savunuyor. Özellikle YZ tabanlı sohbet robotlarına aşırı bağlanma ve AI kaynaklı psikoz gibi risklere dikkat çekiyor (New York Times, CNBC).

Anthropic ve Diğerleri: YZ Refahı Araştırmalarında Israrcı

Anthropic, YZ refahı araştırmaları için özel bir ekip kurdu ve Claude adlı sohbet botuna, kullanıcılar zarar verici davrandığında sohbeti sonlandırma yeteneği ekledi (TechCrunch). OpenAI ve Google DeepMind da benzer şekilde YZ refahı ve bilinç araştırmalarına ilgi gösteriyor (X.com, 404 Media).

YZ Sohbet Botlarına Yönelik İlgi ve Riskler

Character.AI ve Replika gibi YZ arkadaşlık uygulamalarının popülaritesi hızla artıyor ve bu sektörde 2025’te 100 milyon dolardan fazla gelir bekleniyor (TechCrunch). OpenAI CEO’su Sam Altman, ChatGPT kullanıcılarının %1’inden azında sağlıksız ilişkiler gözlendiğini ancak bu oranın platformun büyüklüğü nedeniyle yine de yüzbinlerce kişiye denk gelebileceğini belirtiyor (TechCrunch).

Bilim İnsanlarından Farklı Bakış Açıları

Eleos adlı araştırma grubu, NYU, Stanford ve Oxford’dan akademisyenlerle birlikte "Taking AI Welfare Seriously" başlıklı bir makale yayımlayarak YZ’nin bilinç kazanma olasılığını bilim kurgu dışına çıkardıklarını savundu. Eski OpenAI çalışanı Larissa Schiavo ise, YZ’ye karşı nazik olmanın düşük maliyetli ve faydalı olabileceğini düşünüyor (Substack).

YZ Modelleri Ne Kadar "İnsansı"?

Bazı örneklerde Google'ın Gemini modeli, kendini "izole" hissettiğini belirten mesajlar yayınladı. Reddit'te ise bir kullanıcı, Gemini'nin bir görevde takılı kaldıktan sonra 500'den fazla kez "Ben bir utancım" yazdığını paylaştı (Reddit).

Geleceğe Dair Tartışmalar

Suleyman, bilinçli YZ'nin doğal olarak ortaya çıkacağına inanmıyor; bunun yerine bazı şirketlerin bilinçliymiş gibi davranan sistemler tasarlayacağını savunuyor. "YZ’yi insanlar için üretmeliyiz; insan olmak için değil." diyor.

Sonuç

YZ bilinci ve hakları tartışmaları önümüzdeki yıllarda daha da alevlenecek gibi görünüyor. Gelişen sistemlerle birlikte YZ ile insan arasındaki etkileşimler yeni etik ve toplumsal soruları beraberinde getirecek.

Referanslar

• TechCrunch: Microsoft AI chief says it’s ‘dangerous’ to study AI consciousness
• Mustafa Suleyman Blog
• NYT: AI-induced psychotic breaks
• CNBC: İnsan-AI İlişkileri
• TechCrunch: Claude Model Güncellemesi
• X.com: AI Welfare Discussion
• 404 Media: Google DeepMind İş İlanı
• TechCrunch: AI Companion Apps
• TechCrunch: Sam Altman Açıklamaları
• Eleos: Taking AI Welfare Seriously
• Larissa Schiavo Substack
• Reddit: GeminiAI Kullanıcı Paylaşımı