Amerika’nın Maryland eyaletindeki bir lisede, yapay zeka destekli güvenlik sistemi beklenmedik bir karar verdi: bir öğrencinin elindeki cips poşetini silah olarak algılayıp kelepçe taktı. Görüntüleri izleyen sistem, aniden alarmı polise iletti ve güvenlik güçleri olay yerine intikal etti. Allen adlı öğrenci, çevresini silahlı polislerle çevrelenirken yerde kelepçelenmiş halde buldu.
Amerika’da sık karşılaşılan bu tür olaylar, güvenliğin ne kadar kırılgan olabileceğini bir kez daha gösterdi. Öğrenci, olay sonrası yaptığı açıklamada “Bir cips paketinin silah olarak algılanmasının nasıl bir akıl dışı durum olduğuna” dikkat çekti. Yetkililer ise amacın güvenliği sağlamaktan ibaret olduğunu savundu; yazılımı geliştiren şirket ise insanların doğrulamasıyla çalıştığını belirtti.
Tipik bir güvenlik anında ise şu ki olay, futbol idmanı sonrasında arkadaşlarını bekleyen Allen’ın cipsini bitirdikten sonra yaklaşık 20 dakika geçtikten sonra yaşandı. Polis araçlarıyla gelen güvenlik ekipleri, ellerini havaya kaldırmasını söyleyip onu yüzüstü yatırarak kelepçeledi. Ancak çöpü aralamak için yapılan incelemede gerçek yüz ortaya çıktı: çöpe atılmış buruşuk bir cips paketi, güvenlik sisteminin yanlış yorumuna yol açmıştı.
Bu tür hatalar, yapay zekanın güvenlikteki rolünü tartışmaya açtı. Olayın yankıları sürerken bölgede politika yapan bazı figürler ve uzmanlar, yapay zeka tabanlı gözetim çözümlerinin yeniden değerlendirilmeye ihtiyaç duyduğunu belirtti. Hem eğitim kurumları hem de güvenlik güçleri için bu tür vakaların dikkatli analizlerle önüne geçilmesi gerektiği vurgulandı.
Gelecekte, daha çok konuşulacak ve haberleşecek gelişmelerin kapıda olduğunu söylemek mümkün. Bu olay, güvenlik teknolojilerinin ilerleyişini hızlandırırken, aynı zamanda hatalı kararların hangi sonuçlara yol açabileceğini de hatırlatıyor.
