Um estudante Escola Secundária de KenwoodO condado de Baltimore teve uma experiência assustadora quando um sistema de detecção de armas de inteligência artificial (IA) disparou um alarme falso. Máquina mal interpretada Um saco vazio de Doritos Como um tiro, a polícia correu até o local e algemou o adolescente na frente de seus colegas.
Você pode ver: Pânico no Walmart: autoridades procuram 3 suspeitos de cometer violência na loja
O erro da IA desperta fúria em Maryland quando estudante é algemado
O jovem identificado como Allen bregaSupostamente forçado a se ajoelhar, Coloque as mãos atrás das costas A área está isolada com patrulhas e permanece sob o olhar atento de vários policiais. “A primeira coisa que pensei foi: vou morrer?” Ele disse à mídia local, descrevendo o medo que sentiu durante a busca policial.
Falha do sistema e resposta desproporcional
Isto foi informado pela diretora da escola, Kate Smith Equipe de segurança do distrito escolar Ele rapidamente revisou o aviso e decidiu que não havia arma. No entanto, o aviso de cancelamento não foi comunicado imediatamente, permitindo que a polícia chegasse antes que o erro pudesse ser resolvido. “Entendemos o quão angustiante este incidente foi para o estudante e as testemunhas.” Smith disse em um comunicado.
Como parte disso, a empresa Omnilerttarefa Sistema de IALamentou o incidente e garantiu que a sua tecnologia foi concebida para detectar potenciais ameaças e encaminhá-las para análise humana. Embora o objeto não fosse uma arma, a empresa justificou que o protocolo “funcionou conforme o esperado”, priorizando a segurança acima de tudo.
As autoridades querem rever o sistema
O incidente causou raiva entre os pais. Os estudantes e funcionários do condado. O avô do estudante, Lamont Davis, exigiu responsabilidade e mudança imediatas Protocolos de segurança escolar. “Algo tem que ser feito, as pessoas têm que ser responsáveis”, disse à mídia local.
leia mais: Alerta nos EUA: mãe brasileira encaminhada ao ICE por funcionária do Walmart em Massachusetts
Vários vereadores, incluindo EC Patoka e Julian Jones, pediram uma auditoria do sistema de IA. “Nenhuma criança deveria ser abordada pela polícia por comer um saco de Doritos.” Avaliado pela Superintendente Miriam Rogers O incidente é “lamentável”. Foi garantido que o sistema e as práticas de segurança de todas as escolas do concelho serão revistos.
