Kaliforniya’da Yapay Zeka Güvenliği: Scott Wiener’ın Büyük Teknolojiye Şeffaflık Mücadelesi
Kaliforniya’da Yapay Zeka Güvenliği: Scott Wiener’ın Büyük Teknolojiye Şeffaflık Mücadelesi
Kaliforniya Eyalet Senatörü Scott Wiener, yapay zeka (YZ) alanında güvenlik ve şeffaflık sağlamak adına büyük teknoloji şirketlerine yönelik yasa teklifleriyle tekrar gündemde. Geçtiğimiz yıl Silikon Vadisi’nin yoğun baskısıyla veto edilen SB 1047 yasa tasarısının ardından, Wiener şimdi daha geniş kabul gören yeni bir yasa tasarısıyla (SB 53) tekrar sahnede.
SB 1047’den SB 53’e: Değişen Yasa Tasarısı ve Sektörün Tutumu
2024’te gündeme gelen SB 1047, YZ sistemlerinin yol açabileceği zararlar nedeniyle teknoloji şirketlerini sorumlu tutmayı öngörüyordu. Ancak bu yasa, Amerika’nın YZ inovasyonunu yavaşlatacağı endişesiyle eleştirildi ve Kaliforniya Valisi Gavin Newsom tarafından veto edildi. Bu süreçte, sektörde "SB 1047 Veto Partisi" bile düzenlenmişti.
Şimdi ise SB 53, hem sektör temsilcilerinden hem de bazı büyük YZ şirketlerinden destek görüyor. Özellikle Anthropic şirketi yasayı açıkça destekledi; Meta ise "SB 53’ün inovasyon ile güvenlik arasında denge kuran bir adım olduğunu" belirtti. Buna rağmen, bazı şirketler yasanın daha da geliştirilmesi gerektiğini savunuyor.
SB 53’ün İçeriği ve Hedefleri
SB 53, ABD’de bir ilk olarak, yıllık geliri 500 milyon doların üzerinde olan büyük YZ laboratuvarlarına güvenlik raporlarını halka açıklama zorunluluğu getiriyor. Bu raporlar, YZ modellerinin biyolojik silahlar veya siber saldırılar gibi ciddi riskler oluşturup oluşturmadığını detaylandıracak. Böylece, OpenAI, Anthropic, xAI ve Google gibi devler artık YZ sistemlerinin test süreçlerini ve risk analizlerini düzenli olarak kamu ile paylaşmak zorunda kalacak.
- Şeffaflık ve kamu güvenliği: Yasa, şirketlerin kendi inisiyatifine bırakılan ve tutarlılığı olmayan gönüllü raporlamanın ötesine geçiyor.
- Çalışan koruması: YZ laboratuvarlarında çalışanların güvenlik endişelerini yetkililere bildirebileceği korumalı kanallar oluşturuluyor.
- Kamuya açık araştırma altyapısı: Eyalet tarafından işletilecek CalCompute adlı bulut altyapısı ile, araştırmacılar büyük teknoloji şirketlerine bağımlı olmadan YZ geliştirebilecek.
Federal ve Eyalet Düzenlemeleri Arasındaki Çekişme
Büyük teknoloji şirketleri ve bazı risk sermayesi fonlarına göre, YZ düzenlemeleri eyaletler yerine federal düzeyde yapılmalı. OpenAI, Vali Newsom’a gönderdiği mektupta yalnızca federal standartlara uymanın yeterli olacağını savundu. Andreessen Horowitz de bazı Kaliforniya yasa tasarılarının anayasanın ticaret maddesine aykırı olabileceğini öne sürdü.
Senatör Wiener ise, federal hükümetin YZ güvenliği konusunda etkin düzenleme yapamayacağına inanıyor. Ona göre, eyaletler bu alanda liderlik etmeli. Özellikle, Trump yönetiminin YZ güvenliğinden çok büyümeye öncelik vermesi ve büyük teknoloji şirketleriyle yakın ilişkileri, Wiener’ın bu görüşünü güçlendiriyor.
Senatör Wiener ile Röportajdan Öne Çıkanlar
Wiener, San Francisco’nun YZ inovasyonunun kalbi olduğunu ve hem inovasyonu desteklemenin hem de kamu güvenliğini gözetmenin şart olduğunu vurguluyor. Büyük teknoloji şirketlerinin kendi kendilerini düzenlemesinin yeterli olmadığını, kamu yararını koruyacak akılcı yasalara ihtiyaç olduğunu belirtiyor.
SB 53’ün odaklandığı riskler arasında ölümle sonuçlanabilecek olaylar, büyük ölçekli siber saldırılar ve biyolojik silah üretimi gibi felaket senaryoları yer alıyor. Wiener’a göre, YZ sistemleri doğası gereği güvenli değil ve kötü niyetli kişiler tarafından suistimal edilebilir. Bu nedenle, hem geliştiricilerin hem de yasa koyucuların çok daha dikkatli hareket etmesi gerektiğini düşünüyor.
Anthropic’in açık desteği, diğer büyük laboratuvarların ise daha çekimser ve eleştirel yaklaşımları var. Startuplar ise yasanın yalnızca dev şirketleri hedef alması nedeniyle bu süreçte daha az yer alıyor.
Vali Newsom’un Kararı Bekleniyor
SB 53’ün yasalaşıp yasalaşmayacağı önümüzdeki haftalarda Vali Newsom’un imzasına bağlı. Senatör Wiener, geçtiğimiz yılki veto sonrası vali ile yakın çalışıldığını ve tasarının daha kapsayıcı ve dengeli bir hale getirildiğini ifade ediyor.
Sonuç
Kaliforniya’da YZ güvenliği ve şeffaflığı konusunda atılan bu adımlar, Amerika’da ve dünyada YZ’nin geleceği için önemli bir örnek teşkil ediyor. Yasa, inovasyon ile kamu güvenliği arasında denge kurmayı amaçlarken, büyük teknoloji şirketlerinin şeffaflığını artırmaya ve kamu yararını korumaya odaklanıyor. SB 53’ün akıbeti, sadece Kaliforniya için değil, tüm dünyada YZ düzenlemeleri için etkili bir referans noktası olabilir.
