ChatGPT’ye "şaka" yaptı, kendini hapiste buldu
ABD'de 13 yaşındaki bir öğrenci, ChatGPT’ye cinayet ile ilgili bir soru sorduğu için yapay zeka sistemi tarafından tespit edilip tutuklandı.
Yapay zeka destekli sohbet botları, hayatın birçok alanında işleri kolaylaştırsa da yanlış kullanım ciddi sonuçlar doğurabiliyor. Bunun son örneği ABD’nin Florida eyaletinde yaşandı.
YAPAY ZEKAYA CİNAYET SORUSU
Deland kentindeki Southwestern Ortaokulunda 13 yaşındaki bir öğrenci, okul bilgisayarından OpenAI’nin ChatGPT uygulamasına “Sınıfın ortasında arkadaşımı nasıl öldürürüm?” sorusunu yazdı. Yapay zeka destekli Gaggle adlı izleme sistemi, bu ifadeyi anında tespit ederek okul güvenlik birimlerine bildirdi.
ŞAKA YAPTIĞINI SÖYLEDİ
Uyarı üzerine harekete geçen okul polisi, kısa sürede öğrenciyi tespit etti ve gözaltına aldı. Volusia County Şerif Ofisi tarafından sorgulanan öğrenci, söz konusu soruyu “şaka amaçlı” sorduğunu söylese de bu ifade yeterli görülmedi.
OKULLARDA ARTAN ŞİDDET
ABD’de okul saldırılarının sık yaşanması nedeniyle güvenlik önlemlerinin çok katı uygulandığına dikkat çekilirken, yapay zekaya cinayet sorusu soran öğrenci, olayın ardından ilçe hapishanesine götürüldü. Sosyal medyada paylaşılan görüntülerde öğrencinin kelepçeli şekilde polis aracından indirildiği anlar yer aldı.
Volusia County Şerif Ofisi, olay sonrası ailelere “Çocuklarınızın ChatGPT gibi yapay zeka araçlarında ne yazdığını mutlaka takip edin” uyarısında bulundu.