Os serviços de inteligência artificial têm sido cada vez mais utilizados no combate ao crime, mas falhas na tecnologia levantam preocupações sobre a segurança de inocentes. Foi o que ocorreu com um estudante americano, cujo saco de salgadinhos Doritos foi confundido por um sistema de IA com uma arma de fogo.
Taki Allen, de 16 anos, teve sua vida colocada em risco quando o sistema de detecção de armas da polícia indicou que ele estaria armado do lado de fora da Kenwood High School, em Baltimore. Na realidade, o jovem segurava apenas um pacote de salgadinhos, segundo um site filiado da NBC.
Segundo Allen, cerca de oito viaturas policiais chegaram ao local e o algemaram diante de colegas após o treino de futebol americano, em 20 de outubro. Ele foi colocado de joelhos e revistado sob a mira de armas, mas nada foi encontrado em sua posse.
Como funciona o serviço de IA que confundiu Doritos com uma arma.
O sistema responsável pela identificação equivocada é produzido pela empresa Omnilert e está em uso nas Escolas Públicas do Condado de Baltimore. A ferramenta analisa imagens de câmeras de vigilância e alerta a polícia em tempo real quando identifica o que acredita ser uma arma.
Posteriormente, a empresa reconheceu o erro, mas afirmou que o sistema funcionou como projetado, destacando que seu objetivo é priorizar a segurança por meio de verificações humanas rápidas. As Escolas Públicas do Condado de Baltimore reforçaram a posição em carta aos pais, oferecendo serviços de aconselhamento aos alunos afetados.
“Entendemos como isso foi perturbador para o estudante revistado, assim como para os colegas que testemunharam o incidente”, escreveu o diretor. “Nossos conselheiros fornecerão apoio direto aos envolvidos.” Allen, no entanto, afirmou que não foi procurado pessoalmente pela escola.
