Irregular, 80 Milyon Dolar Yatırımla Yapay Zekâ Güvenliğinde Yeni Dönem Başlatıyor

Yapay zekâ güvenliği alanında faaliyet gösteren Irregular, Sequoia Capital ve Redpoint Ventures liderliğinde gerçekleştirilen yatırım turunda 80 milyon dolar fon topladı. Bu tura, Wiz CEO'su Assaf Rappaport gibi önemli isimler de katıldı. Şirketin değerlemesi ise 450 milyon dolara ulaştı.

Irregular'ın Hedefi: Sınırdaki Modelleri Güvence Altına Almak

Irregular'ın kurucu ortağı Dan Lahav, günümüzde ekonomik faaliyetlerin büyük bir kısmının "insandan yapay zekâya" ve "yapay zekâdan yapay zekâya" etkileşimlerden geleceğini belirtiyor. Bu değişim, mevcut güvenlik altyapısının birçok noktadan kırılmasına neden olabilir. Irregular, bu yeni risklere karşı sektör lideri olma yolunda hızla ilerliyor.

Şirketin Güçlü Referansları

• Irregular'ın güvenlik değerlendirme çalışmaları, Claude 3.7 Sonnet ve OpenAI'nin o3 ve o4-mini modelleri gibi önde gelen yapay zekâ modellerinde referans olarak gösteriliyor.
• Şirketin geliştirdiği SOLVE çerçevesi, modellerin güvenlik açıklarını tespit etme yeteneğinin ölçülmesinde sektör standardı haline geldi. Detaylara buradan ulaşabilirsiniz.

Geleceğe Yönelik Güçlü Test Altyapısı

Irregular, yalnızca mevcut riskleri analiz etmekle kalmıyor; aynı zamanda gelecekte ortaya çıkabilecek riskleri de önceden tespit etmeye odaklanıyor. Şirket, yapay zekâ modellerini yayına almadan önce yoğun testlerden geçiren, karmaşık simüle edilmiş ortamlar tasarladı. Kurucu ortak Omer Nevo, "Yapay zekâ, hem saldırgan hem de savunucu rolüne bürünebiliyor. Böylece yeni bir model çıktığında, savunmanın nerede güçlü, nerede zayıf olduğunu görebiliyoruz" diyor.

Sektörde Artan Güvenlik Endişeleri

Son dönemde OpenAI, kurumsal casusluk riskine karşı güvenlik protokollerini güncelledi. Aynı zamanda, gelişmiş yapay zekâ modellerinin yazılım açıklarını bulma yeteneği hem saldırganlar hem de savunucular için yeni bir güç dengesine işaret ediyor.

Irregular’ın Vizyonu

Irregular’ın kurucuları, yapay zekâ modellerinin yetenekleri geliştikçe güvenlik alanındaki zorlukların da çoğalacağını vurguluyor. Dan Lahav, "Sınırdaki laboratuvarların amacı giderek daha yetenekli modeller üretmekse, bizim amacımız da bu modelleri güvence altına almak. Ancak bu hareketli bir hedef ve önümüzde çok daha fazla iş var," diyor.

Kaynaklar

• TechCrunch: Irregular raises $80 million to secure frontier AI models
• Irregular: Claude 3.7 Sonnet Değerlendirmesi
• Irregular: OpenAI o3 ve o4-mini Güvenlik Değerlendirmesi
• Irregular: SOLVE Çerçevesi
• TechCrunch: OpenAI güvenlik önlemlerini sıkılaştırıyor
• TechCrunch: Yapay zekâ ile güvenlik açıkları avcılığı