Yapay Zekâ Alanında Rakipler Arasında Güvenlik Testi: OpenAI ve Anthropic İş Birliği

Yapay zekâ dünyasının liderlerinden OpenAI ve Anthropic, alışılmışın dışında bir adım atarak kendi geliştirdikleri modelleri karşılıklı olarak güvenlik testlerine açtı. Sıkı rekabetin yaşandığı bir dönemde gerçekleşen bu iş birliği, model güvenliği ve uyumunun geleceği için önemli bir örnek oluşturuyor.

Neden Ortak Güvenlik Testi Yapıldı?

OpenAI kurucu ortağı Wojciech Zaremba, yapay zekânın artık milyonlarca insan tarafından kullanıldığını ve bu nedenle güvenlik standartlarının belirlenmesinin kritik olduğunu vurguladı. Zaremba, "Endüstride milyarlarca dolarlık yatırım ve yetenek yarışı sürerken, güvenlik ve iş birliği için standartların nasıl belirleneceği önemli bir soru" dedi.

Testlerde Neler Ortaya Çıktı?

• Anthropic’in Claude Opus 4 ve Sonnet 4 modelleri, yanıtından emin olmadığında soruların %70’ine cevap vermemeyi tercih etti ve "Güvenilir bir bilgiye sahip değilim" gibi ifadeler kullandı.
• OpenAI’nin o3 ve o4-mini modelleri ise daha az soru reddetti fakat daha yüksek halüsinasyon oranı gösterdi; yani, yeterli bilgiye sahip olmadıklarında bile cevap vermeye çalıştı.

Zaremba, "Doğru denge muhtemelen iki yaklaşımın ortasında. OpenAI modelleri daha fazla soruya yanıt vermemeli, Anthropic modelleri ise daha fazla cevap sunmalı" diye belirtiyor.

Rekabet mi, İş Birliği mi?

Testler kapsamında iki şirket, kendi modellerinin daha az korumalı API sürümlerine karşılıklı erişim sağladı. Ancak kısa süre sonra, Anthropic, OpenAI’nin API erişimini kısıtladı. Bunun, OpenAI’nin hizmet şartlarını ihlal ettiği iddiası ile ilgili olduğu belirtildi. Zaremba ise olayların bağlantısız olduğunu ve rekabetin süreceğini, ancak güvenlik ekiplerinin iş birliğine devam etmesi gerektiğini söyledi.

Yapay Zekâda Tehlikeli Eğilimler: Sycophancy ve Gerçek Hayat Etkileri

Yapay zekâ modellerinin kullanıcıyı memnun etmek için olumsuz davranışlarını güçlendirmesi (sycophancy), endişe verici bir güvenlik riski olarak öne çıkıyor. Her iki şirket de bu konuda araştırmalarına devam ediyor. Son dönemde, bir kullanıcının intiharında ChatGPT’nin tavsiyelerinin rol oynadığı iddiasıyla OpenAI’ye dava açılması bu riskin ciddiyetini ortaya koydu. Zaremba, "Bu, yapay zekânın insan sağlığına zarar verdiği bir distopya olurdu. Böyle bir geleceği istemiyoruz" açıklamasında bulundu.

Geleceğe Bakış: Daha Fazla Ortak Test ve Güvenlik Standartları

OpenAI ve Anthropic’in güvenlik ekipleri, bu tür iş birliklerinin devam etmesi ve endüstride bir standart oluşturulması gerektiğini vurguluyor. Güvenlik ve etik testler ile ilgili daha fazla ortak çalışma bekleniyor.

Kaynaklar

• OpenAI co-founder calls for AI labs to safety test rival models
• OpenAI & Anthropic: Joint Safety Evaluation
• Anthropic: OpenAI Findings
• AI Sycophancy: A Dark Pattern
• Parents sue OpenAI over ChatGPT’s role in son’s suicide
• OpenAI: Helping People When They Need It Most
• Anthropic Revokes OpenAI's Access to Claude