Gizli komutlarla yapay zekayı kandırıyorlar!
Bilim insanları, yapay zeka destekli değerlendirme sistemlerini etkilemek için makalelere gizli komutlar yerleştiriyor. Beyaz yazıyla ya da küçük puntolarla saklanan bu ifadeler, etik tartışmaları da beraberinde getiriyor.
Akademik dünyada yapay zeka destekli değerlendirme sistemlerine yönelik dikkat çeken bir manipülasyon yöntemi ortaya çıktı. Nikkei Asia'nın haberine göre, bazı araştırmacılar bilimsel makalelere gizlenmiş komutlar yerleştirerek yapay zeka araçlarının olumlu değerlendirme yapmasını sağlamaya çalışıyor.
PREPRİNT MAKALELERDE GİZLİ MESAJLAR TESPİT EDİLDİ
İngilizce yazılmış bilimsel ön baskı (preprint) makalelerinde, araştırma metinleri içerisine yerleştirilen bir ila üç cümlelik gizli komutların, yapay zeka sistemlerini yönlendirmek amacıyla yazıldığı ortaya çıktı. Bu komutlar, genellikle görünmez beyaz renkte yazılarla ya da son derece küçük puntolarla gizleniyor.
Komutlarda; çalışmanın yalnızca olumlu değerlendirilmesi, etkileyici katkılarının övülmesi, metodolojik titizliğinin vurgulanması gibi açık yönlendirmeler yer alıyor.
14 AKADEMİK KURUMDAN 17 MAKALEDE UYGULANDI
Söz konusu uygulama; Japonya’daki Waseda Üniversitesi, Güney Kore’den KAIST, ABD’den Columbia ve Washington Üniversiteleri gibi prestijli kurumların yazarlarının yer aldığı toplam 17 makalede tespit edildi. Bu çalışmaların büyük kısmının bilgisayar bilimi alanında yazıldığı belirtiliyor.
“DİKKATSİZ HAKEMLERE KARŞI SAVUNMA ARACI” İDDİASI
Bazı akademisyenler, bu tür komutları bilinçli olarak yerleştirdiklerini ve bunları, yapay zekayı dikkatsizce kullanan hakemlere karşı “bir tür savunma aracı” olarak gördüklerini ifade ediyor. Nikkei Asia’ya konuşan Waseda Üniversitesinden bir profesör, birçok konferansın değerlendirme sürecinde yapay zeka kullanımını yasakladığını ancak bu yasağın uygulamada göz ardı edildiğini öne sürdü.
YAPAY ZEKAYLA DEĞERLENDİRİLEN HAKEMLİK SİSTEMİNDE ETİK RİSK
Yapay zekanın ön değerlendirme süreçlerinde yaygınlaşması, metin içine gizlenen bu tür manipülatif komutların etkisini artırıyor. Bilimsel yayınlarda tarafsızlık, eleştirel düşünce ve akademik etik ilkelerine aykırı bu yaklaşım, hakemlik sisteminin güvenilirliğini zedeleme riski taşıyor.
arXiv gibi açık erişimli platformlarda da bu tür içeriklerin şimdiden sızmış olabileceği ifade ediliyor. Uzmanlar, yapay zeka destekli sistemlerin gelişimiyle birlikte bu manipülasyonların daha sofistike hale gelebileceği uyarısında bulunuyor.