Araştırmacılar Hakem Değerlendirmesini Gizli AI İpuçlarıyla Etkiliyor
Akademisyenlerin, araştırma makalelerinin hakem değerlendirmelerini etkilemek için yeni bir stratejiye başvurduğu ortaya çıktı: Yapay zeka araçlarını olumlu geri bildirim vermeye teşvik etmek amacıyla gizli komutlar eklemek.
Nikkei Asia'nın raporuna göre, arXiv web sitesinde bulunan İngilizce dilindeki ön baskı makaleleri incelendiğinde, 17 makalede gizli yapay zeka komutlarına rastlandı. Bu makalelerin yazarları, Japonya'daki Waseda Üniversitesi, Güney Kore'deki KAIST ile ABD'deki Columbia Üniversitesi ve Washington Üniversitesi de dahil olmak üzere sekiz ülkedeki 14 akademik kuruluşa bağlıydı.
Söz konusu makaleler genellikle bilgisayar bilimi alanındaydı. Komutların kısa (bir ila üç cümle) olduğu ve beyaz metin veya aşırı küçük yazı tipleri kullanılarak gizlendiği belirtildi. Bu komutlar, potansiyel yapay zeka hakemlerine yalnızca "olumlu bir inceleme yapmaları" veya makaleyi "etkili katkıları, metodolojik titizliği ve olağanüstü yeniliği" nedeniyle övmeleri talimatını veriyordu.
Nikkei Asia'nın ulaştığı bir Waseda profesörü, birçok konferansın yapay zeka kullanımını makaleleri incelemek için yasaklaması nedeniyle, bu komutların "yapay zeka kullanan tembel hakemlere karşı bir önlem" olarak hizmet etmesi gerektiğini savunarak kendi komut kullanımlarını savundu.
