Um estudante do ensino médio de Maryland foi algemado sob a mira de uma arma por policiais depois que um sistema de inteligência synthetic confundiu seu saco de Doritos com uma arma de fogo.
Taki Allen, de 16 anos, estava esperando para ser pego no treino de futebol na Kenwood Excessive Faculty, em Essex, Maryland, quando disse que a polícia se aproximou dele com armas e exigiu que ele se deitasse.
‘No início, eu não sabia onde eles [were] indo até que eles começaram a andar em minha direção com armas falando sobre ‘Deite-se no chão!’ WBAL. ‘Eu estava tipo, ‘O quê?’
Imagens da câmera corporal obtidas por WJZ mostrou a polícia detendo Allen e um grupo de seus amigos por volta das 19h de segunda-feira.
Um policial abordou o adolescente confuso e perguntou se ele tinha uma arma.
‘Você tem uma arma com você?’ ele disse. — Você tem alguma coisa azul que pareça uma arma?
Mas Allen nunca teve uma arma.
O que ele tinha period um saco amassado de Doritos que segurava com as duas mãos e um dedo esticado.
A polícia deteve Taki Allen, 16, enquanto ele esperava ser retirado do treino de futebol
Policiais disseram que o sistema de detecção de armas de IA da escola confundiu a bolsa Doritos de Allen com uma arma
A filmagem continuou com policiais vasculhando uma lata de lixo da escola e encontrando exatamente isso.
Um policial ofereceu a Allen uma explicação: ‘Então, basicamente, as câmeras ao redor do sistema captam coisas que parecem armas.
‘Acho que do jeito que vocês estavam comendo batatas fritas, Doritos ou algo assim, ele pegou isso como uma arma – só isso.’
Allen chamou a situação de “assustadora” e disse que nunca havia passado por algo assim antes.
Ele disse: ‘Eles me fizeram ficar de joelhos e depois colocaram minhas mãos atrás das costas e me algemaram. Então, eles me revistaram e ele descobriu que eu não tinha [anything].’
As escolas do condado de Baltimore começaram a usar um sistema de detecção de armas de IA em 2023, que utiliza câmeras escolares existentes para identificar pessoas e objetos próximos.
Se uma arma for detectada, um alarme será imediatamente enviado aos funcionários da escola e à polícia.
Imagens da câmera corporal capturaram a polícia caminhando até Allen e um grupo de seus amigos
Allen disse que a polícia tinha armas e exigiu que ele se deitasse
O incidente ocorreu na Kenwood Excessive Faculty, em Baltimore.
O sistema é fabricado pela Omnilert, com sede na Virgínia, que afirma ser o fornecedor líder de ‘tecnologia de detecção de armas de IA’, e é SAFETY Act–aprovado.
Myriam Rogers, superintendente das escolas públicas do condado de Baltimore, disse: ‘Neste caso, o programa fez o que deveria fazer – que period sinalizar um alerta para os humanos darem uma olhada se houvesse motivo de preocupação naquele momento.’
A Kenwood Excessive Faculty disse que a administração recebeu um alerta dizendo que alguém nas dependências da escola “pode estar em posse de uma arma”.
Num e-mail aos pais, a escola declarou: “O Departamento de Segurança e Proteção Escolar rapidamente revisou e cancelou o alerta inicial após confirmar que não havia arma. Entrei em contato com nosso oficial de recursos escolares (SRO) e relatei o assunto a ele, e ele contatou a delegacia native para obter suporte adicional.
‘Os policiais compareceram à escola, revistaram o indivíduo e rapidamente confirmaram que não estavam em posse de nenhuma arma. Compreendemos o quão perturbador isso foi para o indivíduo que foi revistado, bem como para os outros estudantes que testemunharam o incidente.’
A escola disse que os conselheiros forneceriam “apoio direto” aos alunos envolvidos, mas Allen disse que ninguém o contatou.
Ele disse: ‘Eles não se desculparam. Eles apenas me disseram que period protocolo.
‘Eu esperava que pelo menos alguém falasse comigo sobre isso.’
A superintendente das escolas públicas do condado de Baltimore, Myriam Rogers, disse que a tecnologia de IA ‘fez o que deveria fazer’
O avô de Allen, Lamont Davis, disse que o incidente poderia ter sido muito pior
O sistema de detecção de armas AI utilizado foi feito pela Omnilert
A raiva se estendeu à família do adolescente, que disse que o acontecimento poderia ter sido muito pior.
Lamont Davis, seu avô, disse a WBFF: ‘Deus me livre, meu neto pode morrer se ele se encolher ou se contorcer.’
O incidente deixou o jovem de 16 anos abalado e temendo por seu futuro na escola.
Allen disse: ‘Não estou mais com vontade de ir lá. Se eu comer outro pacote de batatas fritas ou beber alguma coisa, sinto que eles voltarão.
Omnilert disse que lamenta o incidente, chamando-o de “falso positivo”, mas acrescentou que sua tecnologia de detecção de armas “funcionou como pretendido: priorizar a segurança e a conscientização por meio da rápida verificação humana”.
Em fevereiro, o sistema de identificação de IA da Omnilert não conseguiu evitar um tiroteio na Antioch Excessive Faculty, em Nashville, Tennessee, que matou uma menina de 16 anos..
O CEO Dave Fraser disse CNN que o software program de detecção de armas de sua empresa period “relativamente novo” e não “funcionava perfeitamente o tempo todo”.
O vereador do condado de Baltimore, Izzy Patoka, pediu às escolas públicas do condado de Baltimore que revisassem o sistema de detecção de armas.
Ele disse: ‘Nenhuma criança em nosso sistema escolar deveria ser abordada pela polícia por comer um saco de Doritos.’
O Each day Mail entrou em contato com Omnilert para comentar.
