ABD’nin Maryland eyaletine bağlı Baltimore kentinde akılalmaz bir olay yaşandı. Kenwood Lisesi’nde kullanılan yapay zekâ destekli güvenlik sistemi, 16 yaşındaki öğrenci Taki Allen’ın elindeki Doritos cips poşetini “silah” olarak algıladı. Sistem, durumu tehdit olarak değerlendirince alarma geçti ve bölgeye ağır silahlı polis ekipleri sevk edildi.
Allen, futbol antrenmanından sonra okulun dışında otururken sekiz polis aracının hızla geldiğini ve kendisine “Yere yat!” diye bağırıldığını söyledi. Öğrenci, “Beni dizlerimin üzerine çöktürdüler, ellerimi arkama koydular ve kelepçelediler. Elimde sadece bir Doritos poşeti vardı” dedi.
Görüntü ‘silaha benzetildi’
Baltimore County Public Schools yetkilileri, olayda kullanılan yapay zekâ yazılımının Virginia merkezli Omnilert adlı şirket tarafından geliştirildiğini açıkladı. Şirket sözcüsü Blake Mitchell, sistemin görüntüyü “silaha çok benzediği” gerekçesiyle doğruladığını ve birkaç saniye içinde güvenlik ekiplerine uyarı gönderildiğini belirtti. Mitchell, “Şu anda bunun silah olmadığını biliyoruz ama o anda görüntü çoğu insana bir silah gibi görünüyordu” ifadelerini kullandı.
Özür bile gelmedi
Olay sonrası okul yönetiminden hiçbir özür almadığını belirten Allen, yaşadığı korku nedeniyle okula dönmek istemediğini söyledi:
“Artık oraya gitmek istemiyorum. Elime bir cips poşeti alsam, yine polislerin geleceğini hissediyorum.”
Allen’ın dedesi Lamont Davis ise torununa sekiz silah doğrultulmasının hiçbir gerekçesi olmadığını belirterek yetkilileri daha sıkı denetime çağırdı.
Yapay zekâda ırkçılık tartışması yeniden alevlendi
Olay, yapay zekâ destekli güvenlik sistemlerinin güvenilirliğini ve olası ırksal önyargılarını yeniden gündeme getirdi. Uzmanlar, bu tür teknolojilerin yanlış alarm riskine dikkat çekerken, siyahi öğrencilerin ayrımcılığa maruz kalma olasılığının arttığına vurgu yaptı.
7 bin kameradan gelen görüntüleri tarıyor
Baltimore Banner gazetesine göre Omnilert yazılımı, şehir genelindeki 7 bin okul kamerasından gelen görüntüleri analiz ediyor. Sistem, şüpheli hareketleri tespit ettiğinde otomatik olarak güvenlik ekiplerini bilgilendiriyor ve potansiyel tehditlere karşı anında müdahale sağlıyor.
Olay sonrası kamuoyunda, yapay zekâ sistemlerinin etik sınırları ve okul güvenliğinde insan denetiminin rolü tartışılmaya başlandı.
