Okuma Süresi
Amerika’da okullar, çocukların davranışlarını denetleyebilmek ve onları şiddet faaliyetlerinden koruyabilmek için “Avigilon” isimli şirket tarafından geliştirilen yapay zeka destekli bir yazılım kullanmaya başladı. Yazılım, öğrencilerin fiziksel özelliklerini analiz ederek ve bu özellikleri diğer görüntülerle eşleştirerek okul içerisinde nerede bulunabileceklerini tespit edebiliyor.
Son 10 yıl içerisinde ABD, okullarda tam 180 adet silahlı çatışma vakasına şahitlik etti. Silahlara ilişkin ülkedeki düşük denetim kuralları da eklenince bu çatışmalarda, toplam 356 kişi hayatını kaybetti. Rakamların giderek artan oranda yükselmesinin ardından Amerika’da okullar, öğrencilerin can güvenliğini koruyabilmek adına yapay zeka teknolojisinden yararlanmaya başladı. Son olarak ülkedeki 9 devlet okulu, yapay zeka sistemlerini kampüslerine yerleştirdi.
Aktarılan detaylara göre; “Avigilon” isimli şirket tarafından geliştirilen yapay zeka destekli sistem, öğrencileri görünüşlerini, yaşlarını, cinsiyetlerini, kıyafetlerini ve bazı yüz özelliklerini baz alarak okul kampüsünde bulabiliyor. Okulun görüntüleme sistemleriyle entegre biçimde çalışan yazılımda okulun güvenlik yetkilileri, herhangi bir şüpheli davranışa şahit olursa öğrencinin bedeninin üstüne tıklayarak o öğrenciyle ilgili daha detaylı bilgi edinebiliyor. Sistem, öğrencilerin fiziksel özelliklerini ve kıyafet, çanta veya gözlük gibi üzerlerinde taşıdıkları eşyaları analiz ediyor ve bu analizleri diğer kamera görüntülerini tarayarak benzer özellikleri bulunduran çekimlerle eşleştirebiliyor.
Yazılım, okulun içerisinde kamera bulunan diğer alanlardan belli bir öğrencinin, bulunması en olası olan konumu yönetime bildirebiliyor. Okul yöneticileri, böylece öğrencilerin konumlarını tespit edebiliyor. Sistem diğer kamera çekimleriyle elindeki fiziksel verileri eşleştirirken tam olarak öğrencinin kim olduğunu tespit edemese de okul kampüsü içerisinde nerede olabileceğini söyleyebiliyor.
Okullarda yapay zeka kullanımı, gizliliğe ilişkin endişeleri de gündeme taşıdı
Amerika’da yapay zeka kullanımının okullarda yaygınlaşması, veri gizliliğiyle ilgili endişeleri de tekrar gündeme getirdi. Yazılımın amacı güvenlik önlemlerini artırmak ve okullarda farklı şekillerde görülebilen şiddet faaliyetlerini azaltmak olsa da sistem, içerisinde yüz tanıma teknolojisine ilişkin bazı özellikler barındırdığı için kısa sürede eleştiri oklarının hedefi haline geldi. Veri güvenliği uzmanlarının pek çoğu, söz konusu yazılımın öğrencileri sürekli gözetliyor olduğu için gizlilik ihlali yaptığına ve çocukların izlendiklerini bilmelerinden dolayı her zamanki gibi davranmayacaklarına işaret etti.
Okul yöneticileri ise yazılımın temelinin yüz tanıma teknolojisine dayanmadığını ve sistemin herhangi bir gizlilik ihlalinde bulunmadığını ifade etti. Yapay zeka destekli yazılımın okul çalışanları tarafından yapılan soruşturmalara yardımcı olabileceğini bildiren yöneticiler, sistemin öğrenciler arası zorbalığı ve davranış kuralı ihlallerini denetlemek için kullanılacağını da sözlerine ekledi.
