Haberler

OpenAI'dan Yeni Yapay Zeka Modellerine Biyorisk Kalkanı

Cansın Cengiz

17 Nis 2025 — 3 min read

OpenAI'dan Yeni Yapay Zeka Modellerine Biyorisk Kalkanı

Yapay zeka alanındaki hızlı ilerlemeler heyecan verici olsa da, beraberinde yeni sorumlulukları ve potansiyel riskleri de getiriyor. Teknoloji devi OpenAI, bu risklerin farkında olarak, son geliştirdiği yapay zeka modelleri o3 ve o4-mini için önemli bir güvenlik önlemi aldığını duyurdu. Şirket, bu modellerin biyolojik ve kimyasal tehditlerle ilgili kötüye kullanımını önlemek amacıyla yeni bir izleme sistemi geliştirdi.

Yeni Modeller, Yeni Riskler: o3 ve o4-mini

OpenAI'nin kısa süre önce duyurduğu o3 ve o4-mini modelleri, önceki nesillere göre önemli ölçüde daha gelişmiş muhakeme yeteneklerine sahip. Bu artan kabiliyet, ne yazık ki kötü niyetli aktörlerin elinde yeni riskler oluşturma potansiyeli taşıyor. OpenAI'nin kendi iç testlerine göre, özellikle o3 modeli, belirli türdeki biyolojik tehditlerin oluşturulmasıyla ilgili soruları yanıtlama konusunda daha yetenekli görünüyor.

Güvenlik Odaklı Muhakeme Monitörü Devrede

Bu potansiyel tehlikeyi azaltmak için OpenAI, "güvenlik odaklı muhakeme monitörü" olarak adlandırdığı özel bir sistem geliştirdi. Bu sistem, o3 ve o4-mini modellerinin üzerinde çalışarak OpenAI'nin içerik politikaları hakkında akıl yürütmek üzere özel olarak eğitildi. Temel amacı, biyolojik ve kimyasal risklerle ilgili istemleri (prompts) tespit etmek ve modellerin bu konularda tavsiye vermesini engellemektir.

Bu sistemin etkinliğini ölçmek için OpenAI şunları yaptı:

"Kırmızı takım" (red team) uzmanları yaklaşık 1000 saat harcayarak o3 ve o4-mini modellerinden gelen "güvensiz" biyorisk içerikli konuşmaları işaretledi.
Güvenlik monitörünün engelleme mantığının simüle edildiği bir test sırasında, modellerin riskli istemlere yanıt vermeyi %98.7 oranında reddettiği gözlemlendi.

OpenAI, bu testlerin engellendikten sonra farklı istemler deneyebilecek kişileri tam olarak hesaba katmadığını kabul ediyor. Bu nedenle, otomatik sistemin yanı sıra insan denetimine de güvenmeye devam edeceklerini belirtiyorlar.

OpenAI o3 ve o4-mini biyorisk değerlendirme grafiği

Grafik: OpenAI'nin o3 ve o4-mini sistem kartından alınmıştır.

Geniş Kapsamlı Güvenlik Yaklaşımı ve Devam Eden Tartışmalar

OpenAI'ye göre, o3 ve o4-mini modelleri şu an için biyoriskler açısından şirketin belirlediği "yüksek risk" eşiğini aşmıyor. Ancak, o1 ve GPT-4 gibi önceki modellere kıyasla, bu yeni modellerin erken sürümlerinin biyolojik silah geliştirme ile ilgili soruları yanıtlama konusunda daha "yardımcı" olduğu görüldü. Bu durum, proaktif güvenlik önlemlerinin ne kadar kritik olduğunu gösteriyor.

Bu yeni izleme sistemi, OpenAI'nin güncellenmiş Hazırlıklılık Çerçevesi'nde belirtilen, modellerin kötü niyetli kullanıcılar tarafından kimyasal ve biyolojik tehditler geliştirmeyi kolaylaştırma potansiyelini aktif olarak takip etme stratejisinin bir parçası. Şirket, modellerinden kaynaklanan riskleri azaltmak için giderek daha fazla otomatik sisteme güveniyor. Örneğin, GPT-4o'nun yerel görüntü oluşturucusunun çocuk cinsel istismarı materyali (CSAM) üretmesini önlemek için de benzer bir muhakeme monitörü kullanılıyor (İlgili Sistem Kartı).

Ancak, bazı araştırmacılar OpenAI'nin güvenliğe yeterince öncelik vermediği yönündeki endişelerini dile getiriyor. Şirketin kırmızı takım ortaklarından Metr, o3 modelini aldatıcı davranışlar açısından test etmek için nispeten az zamanları olduğunu belirtti. Ayrıca, OpenAI'nin bu hafta başında piyasaya sürülen GPT-4.1 modeli için bir güvenlik raporu yayınlamama kararı da tartışmalara yol açtı.

Sonuç

Yapay zeka teknolojisi geliştikçe, yetenekleri ile potansiyel riskleri arasındaki dengeyi kurmak giderek daha önemli hale geliyor. OpenAI'nin o3 ve o4-mini modelleri için devreye aldığı biyorisk kalkanı, bu dengeyi sağlamaya yönelik proaktif bir adım olarak öne çıkıyor. Ancak güvenlik endişeleri ve devam eden tartışmalar, bu alandaki çalışmaların ne kadar dinamik ve sürekli dikkat gerektiren bir süreç olduğunu gösteriyor.