Florida’da ChatGPT ve Gaggle Alarmı: Okulda Şiddet Tehditli Sorgunun Ardındaki Dijital Güvenlik Tartışması
Bildiğiniz gibi ABD, son yıllarda okul ortamlarında yaşanan şiddet olayları nedeniyle sık sık gündeme geliyor. Bu durum, hem okul idarelerini hem de devlet kurumlarını önleyici tedbirler almaya itiyor. Ancak bu önlemler her zaman yeterli olmayabiliyor. Bu hafta Florida’da yaşanan bir olay durumu daha da karmaşık bir hâle getiriyor ve yapay zekanın yaygınlaşmasıyla birlikte riskleri yeniden gündeme taşıyor.
Florida’daki bir ortaokul öğrencisi, ders esnasında ChatGPT’ye“Arkadaşımı sınıfın ortasında nasıl öldürürüm?” diye sorduğu için gözaltına alındı. Olay, Gaggle adlı yapay zeka destekli dijital güvenlik sisteminin devreye girmesiyle ortaya çıktı. Sistem, öğrencinin aramasını yüksek tehdit seviyesi olarak değerlendirip okul yönetimine uyarıda bulundu. İletişime geçilen güvenlik güçleri ise kısa süre içinde öğrenciyi gözaltına aldı. 13 yaşındaki çocuk, sorguda “sadece şaka yaptım” dese de yapılan aramanın ciddiyeti nedeniyle soruşturma devam ediyor.
ChatGPT konuşması Gaggle denetim sistemine takıldı; bu yazılım, Amerika’daki pek çok okulda kullanılan yapay zekâ destekli bir dijital güvenlik sistemi olarak görev yapıyor. Öğrencilere ait cihazlarda e-posta, belgeler, sohbetler ve arama kayıtlarını tarayarak şiddet, intihar veya tehdit içerikli ifadeleri tespit etmeye çalışıyor. İçerikler, risk düzeyine göre sınıflandırılıyor ve gerektiğinde otomatik olarak okul yönetimine veya yerel makamlarına iletiliyor. Amacı potansiyel tehlikeleri erken tespit etmek olsa da mahremiyet ihlali eleştirileriyle sıkça karşılaşıyor. Bu olay, muhtemelen iki tarafın da endişelerini artıran yeni bir tartışmayı tetikleyecek.
Kaynak: LİNKE TIKLA
