Florida’da bir ortaokulda yaşanan olay, yapay zeka destekli güvenlik çözümlerinin günlük eğitim ortamında nasıl hatalar üretebileceğini bir kez daha gösterdi. Lawton Chiles Ortaokulu’nda devreye giren otomatik güvenlik modu, bir öğrencinin klarnetini silah sanıp kilitlenme protokolünü tetikledi. Kısa süreli alarm, okul yönetimini ve polis birimini hızla olay yerine çekti; fakat kısa bir incelemenin ardından tehdit olmadığı anlaşılınca normale dönüldü.
Okul yönetimi, velilere gönderdiği bilgilendirme mesajında güvenlik prosedürlerinin gereği olarak süreci ele aldıklarını, ancak mevcut riski ciddi biçimde görmediklerini belirtti. Yine de, silah varmış gibi hareket etmenin öğrenciler üzerindeki olası etkileri konusunda farkındalığın artırılması gerektiğini vurguladı.
Yapay zeka destekli güvenlik önlemlerinde artışLawton Chiles Ortaokulu’nun bağlı olduğu Seminole County bölgesi, ZeroEyes firmasının bulut tabanlı silah tespit ve caydırma sistemiyle güvenlik altyapısını güçlendirdi. Bölge, bu hizmet için yıllık yaklaşık 250 bin dolar ödediğini kamu kayıtlarından paylaşıyor. Sistem, mevcut güvenlik kameralarından gelen canlı görüntüleri analiz ederek ateşli silahları tespit etmeyi amaçlarken, şimdiye dek bu teknolojinin gerçek bir tehdidi önlediğine dair net bir veri paylaşımı yapılmıyor.
ZeroEyes, yaklaşık 100’ün üzerinde silah türünü kapsayan derin öğrenme modelleriyle çalıştıklarını savunuyor. Bir silah tespit edildiğinde görüntüler izleme merkezindeki insan analistlere iletiliyor ve doğrulamanın ardından ilgili okula veya kolluk kuvvetlerine bildirim yapılıyor. Fakat vakalarda insan onay katmanı bile hatalı sonuçlar doğurabiliyor; Klarinet vakasında da bu durum net şekilde görüldü.
ACLU’nin Chad Marlow, sık sık yanlış alarmlar veren sistemlerin öğrencileri gereksiz kilitlenmelere maruz bırakabileceğine dair uyarısını yineledi. Geçmişte, benzer bir olayda bir okulda bir cips poşetinin silah olarak algılanması gibi talihsiz hatalar da gündeme gelmişti. Oviedo’daki klarinet vakası, yapay zeka çözümlerinin güvenlik güçlerinin müdahalesini tetikleyebilecek risklerini bir kez daha gözler önüne serdi.
