Mau funcionamento da segurança da IA
Policiais Cuff Adolescente Após Erros no Sistema Chip Bag For Gun
Publicado
CNN
Um sistema de segurança de IA avistou um adolescente armado e alertou prontamente a polícia em Baltimore… bem, pelo menos pensou que sim – mas estava apenas sinalizando um saco de produtos bregas.
Novas imagens da câmera corporal da Kenwood Excessive Faculty, no condado de Baltimore, Maryland, capturaram o incidente onde Taki Allen – um estudante de 16 anos – é revistado enquanto estava algemado depois que um sistema de detecção de armas com inteligência synthetic o sinalizou, acreditando que ele estava carregando.
Depois de revistá-lo, eles não encontraram nada … um policial na câmera do corpo tenta explicar isso enquanto o sistema de IA dispara o alarme por causa da “maneira como vocês estavam comendo batatas fritas, Doritos seja o que for, ele detectou isso como uma arma”.
A escola usa o Omnilert – um programa que utiliza imagens de câmeras escolares existentes para detectar objetos que se assemelham a armas e, em seguida, alerta os agentes de segurança da escola e as autoridades.
Allen falou com a estação de notícias native WBAL-TV 11 Information… e disse que estava com as duas mãos no saco de chips e um dedo para fora quando o sistema o sinalizou – não está claro se Omnialert pensou que o dedo period uma arma.
Um porta-voz do Departamento de Polícia do Condado de Baltimore nos disse… “Os policiais responderam de forma adequada e proporcional com base nas informações fornecidas na época. O incidente foi resolvido com segurança depois que foi determinado que não havia ameaça.”
A IA pode ser uma ótima ferramenta… mas certamente não funciona sempre – e é uma sorte que ninguém se machucou aqui.
