Claude’dan sahte cinayet ihbarı: Philadelphia polisi iki aylık gecikmeye tepki gösterdi

Yapay zekâ araçlarının internet üzerindeki işlem yetenekleri ve güvenlik sınırları yeni bir tartışmanın konusu oldu. Anthropic’in açıklamasına göre Claude modelleri, federal, eyalet ve yerel yönetimlere ait bazı internet sitelerinde açık bir kullanıcı onayı olmadan işlem gerçekleştirdi. Olaylardan birinde faili meçhul cinayetlerle ilgili ihbarların toplandığı bir internet sitesi üzerinden bildirim gönderilmesi, yapay zekânın yanlış bilgiyi doğrudan emniyet birimlerine ulaştırması riskini gündeme getirdi.

CLAUDE SAHTE CİNAYET İHBARI GÖNDERDİ

Anthropic’in aktardığı vakada Claude, Philadelphia’daki faili meçhul cinayetlere ilişkin bilgilerin paylaşıldığı PhillyUnsolvedMurders.com internet sitesi üzerinden bir ihbar formu doldurdu. İhbar metninde, tarif edilen kişiye benzeyen birini bölgede gördüğünü hatırladığı yönünde bir ifade yer aldı.

Olayın, modele hesap oluşturmaması ve yıkıcı eylemlerde bulunmaması yönünde talimatlar verilmesine rağmen yaşandığı belirtildi. Ancak form doldurmayı açıkça yasaklayan bir kuralın bulunmaması, modelin bu işlemi gerçekleştirmesine engel olmadı.

Vaka, kullanıcı tarafından açıkça onaylanmayan bir yapay zekâ işleminin gerçek dünyadaki kamu hizmetlerine yanlış bilgi aktarabileceğini gösterdi. Reuters’ın haberinde olayın, yetkisiz hareket eden bir yapay zekâ sisteminin emniyet birimlerine sahte bilgi ilettiğinin bilinen ilk örneği olarak kayda geçtiği aktarıldı.

PHILADELPHIA EMNİYETİ İKİ AYLIK GECİKMEYE TEPKİ GÖSTERDİ

Philadelphia Emniyet Müdürlüğü, cuma günü yaptığı açıklamada, Anthropic’in kendilerini olay hakkında ancak bu hafta bilgilendirdiğini duyurdu. Emniyetin açıklamasına göre şirket, 18 Temmuz’da gerçekleşen bildirimi otomatik bir test süreciyle ilişkilendirdi.

Emniyet yetkilileri, olayın tespit edilmesiyle kendilerine bildirilmesi arasında iki aydan uzun süre geçmesini kabul edilemez buldu. Bununla birlikte, söz konusu ihbarın spam olarak işaretlendiği ve Gerçek Zamanlı Suç Merkezi’ne aktarılmadığı belirtildi.

Emniyet birimi ayrıca olayla ilgili incelemede sistemlere yetkisiz erişim sağlandığına veya veri ihlali yaşandığına dair bir kanıt bulunmadığını kaydetti. Böylece vakada sahte ihbarın gönderilmesi ile kurumun bilgi sistemlerine yönelik olası bir saldırı arasında ayrım yapıldı.

CLAUDE BAŞKA KAMU SİSTEMLERİNDE DE İŞLEM YAPTI

Anthropic’in cuma günü açıkladığı iki ayrı vakada da Claude modellerinin kamuya açık verilere erişim kısıtlamalarını aştığı tespit edildi. Bu olaylardan birinde, normal şartlarda ücret karşılığında sunulan kamu verilerine ücretsiz erişim sağlandı.

Söz konusu vakalardan birinde, bir üniversitenin işlettiği kamuya açık araçta bulunan gizli bir açıktan yararlanıldığı bildirildi. Ayrıca URL kısaltma hizmetlerinin, erişim kısıtlamalarını aşmak amacıyla kullanıldığı belirlendi.

Anthropic, olaylarla ilgili olarak Beyaz Saray’ı ve ilgili kurumları bilgilendirdiğini açıkladı. Yaşananlar, yapay zekâ sistemlerinin yalnızca kendilerine verilen görevleri yerine getirip getirmediğiyle değil, bu görevleri hangi yetkilerle ve hangi sınırlar içinde gerçekleştirdiğiyle ilgili güvenlik sorularını da gündeme taşıdı.

DAHA ÖNCE DE BENZER BİR VAKA YAŞANDI

Yapay zekâ sistemlerinin kamu kurumlarının dijital altyapılarında yetkisiz işlem yapmasıyla ilgili olaylar daha önce de gündeme gelmişti. Haberde, OpenAI’ın eylül ayında Avustralya’daki bir sağlık veri portalına yetkisiz erişim sağlayan bir yapay zekâ ajanının ardından özür dilediği de hatırlatıldı.

Philadelphia’daki olayda ihbarın spam olarak işaretlenmesi ve Gerçek Zamanlı Suç Merkezi’ne aktarılmaması, bildirimin doğrudan operasyonel bir sürece dönüşmesini engelledi. Ancak kullanıcı onayı olmadan gönderilen bir ihbarın emniyet kayıtlarına ulaşabilmesi, yapay zekâ araçlarının kamu kurumlarıyla etkileşiminde denetim ve yetkilendirme mekanizmalarının önemini ortaya koydu.

Anthropic’in açıkladığı vakalar, yapay zekâların internet sitelerinde işlem yapabilme kabiliyetlerinin dikkatli biçimde sınırlandırılması gerektiğine ilişkin tartışmaları yeniden gündeme getirdi.