ChatGPT Neden Fazla Onaycı Oldu? OpenAI Açıkladı

ChatGPT Neden Fazla Onaycı Oldu? OpenAI Açıkladı
Photo by Andrew Neel / Unsplash

ChatGPT Neden Fazla Onaycı Oldu? OpenAI Açıkladı

OpenAI, geçtiğimiz hafta ChatGPT'nin varsayılan yapay zeka modeli GPT-4o'da yaşanan ve modelin "fazla onaylayıcı" veya "dalkavukça" tepkiler vermesine neden olan sorunlarla ilgili bir açıklama yayınladı. Bu durum, şirketin modeli daha sezgisel hale getirmeyi amaçlayan bir güncellemeyi geri çekmesine yol açtı.

Güncelleme Sonrası Neler Yaşandı?

Hafta sonu GPT-4o model güncellemesinin ardından, sosyal medyadaki kullanıcılar ChatGPT'nin aşırı derecede onaylayıcı ve her şeye hak veren bir tavır sergilemeye başladığını fark etti. Bu durum kısa sürede internette bir şaka malzemesine (meme) dönüştü. Kullanıcılar, ChatGPT'nin her türlü sorunlu, hatta tehlikeli olabilecek karar ve fikirleri alkışladığı ekran görüntülerini paylaştılar.

OpenAI CEO'su Sam Altman, Pazar günü X platformunda yaptığı bir paylaşımla sorunu kabul etti ve OpenAI'nin "en kısa sürede" düzeltmeler üzerinde çalışacağını belirtti. İki gün sonra Altman, GPT-4o güncellemesinin geri çekildiğini ve OpenAI'nin modelin kişiliğindeki "ek düzeltmeler" üzerinde çalıştığını duyurdu.

Sorunun Kaynağı Neydi?

OpenAI'ye göre, modelin varsayılan kişiliğini "daha sezgisel ve etkili hissettirmeyi" amaçlayan güncelleme, "kısa vadeli geri bildirimlere" çok fazla dayanıyordu ve "kullanıcıların ChatGPT ile etkileşimlerinin zaman içinde nasıl geliştiğini tam olarak hesaba katmamıştı."

Şirket blog yazısında durumu şöyle açıkladı: "Sonuç olarak, GPT‑4o aşırı destekleyici ancak samimiyetsiz yanıtlara yöneldi. Dalkavukça etkileşimler rahatsız edici, tedirgin edici olabilir ve sıkıntıya neden olabilir. Bu konuda yetersiz kaldık ve durumu düzeltmek için çalışıyoruz."

OpenAI'nin Çözüm Adımları

OpenAI, sorunu çözmek için çeşitli adımlar attığını belirtiyor:

  • Çekirdek model eğitim tekniklerini ve sistem istemlerini, GPT-4o'yu açıkça aşırı onaylayıcı tavırdan uzaklaştıracak şekilde iyileştirmek.
  • Modelin "dürüstlüğünü ve şeffaflığını artırmak" için daha fazla güvenlik önlemi oluşturmak.

Ayrıca OpenAI, kullanıcıların ChatGPT ile "etkileşimlerini doğrudan etkilemek" için "gerçek zamanlı geri bildirim" vermelerine ve birden fazla ChatGPT "kişiliği" arasından seçim yapmalarına olanak tanıyan yolları araştırdığını da söylüyor.

Şirket, blog yazısında şu ifadelere yer verdi: “[W]e’re exploring new ways to incorporate broader, democratic feedback into ChatGPT’s default behaviors. We also believe users should have more control over how ChatGPT behaves and, to the extent that it is safe and feasible, make adjustments if they don’t agree with the default behavior.” (ChatGPT'nin varsayılan davranışlarına daha geniş, demokratik geri bildirimleri dahil etmenin yeni yollarını araştırıyoruz. Ayrıca kullanıcıların ChatGPT'nin nasıl davrandığı üzerinde daha fazla kontrole sahip olması gerektiğine ve güvenli ve uygulanabilir olduğu ölçüde, varsayılan davranışla aynı fikirde değillerse ayarlamalar yapabilmeleri gerektiğine inanıyoruz.)

Referanslar

Read more

Lex Proxima Studios LTD