V šoli je nameščen sistem za zaznavanje orožja, ki temelji na AI, kakršnega uporablja vse več ameriških izobraževalnih ustanov. Sistem naj bi prek nadzornih kamer samodejno zaznal orožje in sprožil alarm, a se je v tem primeru izkazalo, da ne zmore zanesljivo razlikovati med nevarnimi in vsakdanjimi predmeti.

Podoben primer se je kmalu zatem zgodil tudi na srednji šoli Lawton Chiles na Floridi, kjer je umetna inteligenca sprožila rdeči alarm (Code Red), šolo pa so začasno zaprli. Razlog je bil učenec, ki je po hodniku hodil s klarinetom, ki ga je držal na način, podoben nošenju orožja. Policija je hitro ugotovila, da ni šlo za nikakršno grožnjo, zato so varnostne ukrepe preklicali.

Ravnateljica šole Melissa Laudani je po dogodku starše obvestila, da je alarm sprožil avtomatiziran varnostni sistem, ter jih pozvala, naj se z otroki pogovorijo o tem, zakaj je pretvarjanje, da nosijo orožje, na šolskem območju nevarno, poroča WFTV Channel 9.

Obe šoli uporabljata sistem podjetja ZeroEyes, ki je integriran v nadzorne kamere in temelji na algoritmih, izurjenih za prepoznavanje več kot sto vrst orožja. Sistem v realnem času spremlja posnetke, ob zaznavi domnevnega orožja pa najprej opozori operaterja podjetja, ki mora presoditi, ali gre za resnično grožnjo.

V opisanih primerih pa ni odpovedala le umetna inteligenca, temveč tudi človeški nadzor, saj operater ni pravočasno prepoznal, da ne gre za orožje. To je med starši sprožilo jezo in zaskrbljenost, saj želijo vedeti, kako učinkovita je tehnologija, za katero šole letno plačujejo okoli 250 tisoč ameriških dolarjev.

Podjetje ZeroEyes doslej ni javno objavilo natančnih podatkov o tem, koliko napadov je sistem dejansko preprečil in koliko lažnih alarmov je sprožil. Nekateri varnostni analitiki opozarjajo, da so neodvisne analize te tehnologije redke in rezultati mešani, del strokovnjakov pa meni, da gre bolj za občutek varnosti kot za dokazano učinkovito rešitev za zmanjševanje nasilja v šolah.