Alumno esposado: el sistema de seguridad de IA de su escuela confundió una bolsa de Doritos con una pistola

La policía esposó y registró esta semana a un estudiante en una escuela secundaria del condado de Baltimore, en Maryland, después de que un sistema de seguridad impulsado por inteligencia artificial (IA) alertara que la bolsa vacía de papas fritas del adolescente podía ser un arma de fuego.

Ahora, funcionarios del condado de Baltimore solicitan una revisión del uso del sistema de detección de armas con IA por parte de Kenwood High School y por qué el adolescente terminó esposado a pesar de que los encargados de seguridad de la escuela determinaron rápidamente que no había arma.

“Me hicieron ponerme de rodillas, poner las manos detrás de la espalda y me esposaron”, dijo Taki Allen, estudiante de Kenwood High School, a WBAL, afiliada de CNN, al describir lo que sucedió en la tarde del lunes cuando la policía llegó a la escuela mientras él esperaba con amigos a que los recogieran después de la práctica de fútbol americano.

“Me registraron y se dieron cuenta de que no tenía nada. Luego, fueron hasta donde yo estaba parado y encontraron una bolsa de papas en el suelo”, dijo Allen.

Describió una escena angustiante con una fuerte presencia policial.

“Lo primero que me pregunté fue: ‘¿Estoy por morir?’. Porque tenían un arma apuntándome”, dijo Allen a WBAL, mencionando que aproximadamente “ocho patrullas” llegaron a la escuela.

“Solo estaba sosteniendo una bolsa de Doritos, eran dos manos y un dedo afuera, y dijeron que parecía un arma”, contó Allen a WBAL.

CNN contactó al Departamento de Policía del Condado de Baltimore para recibir comentarios. El departamento dijo a WBAL que los oficiales respondieron a “un informe de una persona sospechosa con un arma”, pero determinaron que la persona no estaba armada tras el registro.

La directora de Kenwood High School, Kate Smith, dijo que el departamento de seguridad del distrito escolar revisó y canceló la alerta de detección de armas después de confirmar que no había un arma, según una declaración enviada a los padres que fue compartida con CNN. Smith dijo que informó del asunto al oficial de recursos escolares de Kenwood, quien llamó a la policía local para recibir apoyo.

La directora no se dio cuenta de inmediato de que la alerta había sido cancelada, dijo un portavoz de las Escuelas Públicas del Condado de Baltimore a WBAL.

“Entendemos lo perturbador que fue esto para la persona que fue registrada, así como para los otros estudiantes que presenciaron el incidente”, dijo Smith en el comunicado. “Por favor, sepan que garantizar la seguridad de nuestros estudiantes y de la comunidad escolar es una de nuestras más altas prioridades”.

Omnilert, la empresa que opera el sistema de detección de armas con IA, expresó su pesar por el incidente y enfatizó que su sistema está diseñado para identificar a una posible amenaza y elevarla para revisión humana.

“Lamentamos que este incidente haya ocurrido y queremos transmitir nuestra preocupación al estudiante y a la comunidad en general afectada por los hechos posteriores”, dijo la empresa a CNN.

“Aunque después se determinó que el objeto no era un arma de fuego, el proceso funcionó como se esperaba: priorizar la seguridad y la conciencia mediante una verificación humana rápida”, agregó la empresa.

El sistema de detección de armas con IA se ha utilizado en las escuelas públicas del condado de Baltimore desde 2023, analizando video de las cámaras de seguridad existentes de las escuelas, dijo la superintendente Myriam Rogers durante una conferencia de prensa el miércoles.

Rogers calificó el incidente del lunes como “realmente lamentable” y dijo que el distrito nunca quiere poner a ninguno de sus estudiantes en una situación tan aterradora.

La respuesta desproporcionada ante la falsa alarma ha provocado indignación en la comunidad, con el abuelo de Allen, Lamont Davis, exigiendo responsabilidades.

“Algo debe hacerse”, dijo Davis a WBAL. “Se deben hacer cambios y las personas deben rendir cuentas”.

Los funcionarios del condado de Baltimore dicen que quieren una revisión del proceso que llevó a la respuesta policial del lunes.

“Ningún niño en nuestro sistema escolar debería ser abordado por la policía por comer una bolsa de Doritos”, dijo en un comunicado en redes sociales Izzy Patoka, concejal del condado de Baltimore, pidiendo al distrito escolar “revisar los procedimientos en torno a su sistema de detección de armas impulsado por IA”.

Julian Jones, concejal del condado de Baltimore, también pidió una revisión del uso del sistema de IA “para asegurarse de que existan salvaguardas, de modo que este tipo de error no vuelva a ocurrir”, según WBAL.

La superintendente Rogers dijo que revisar el sistema y las prácticas de seguridad en las escuelas del condado de Baltimore “es parte de nuestra práctica habitual”.

The-CNN-Wire
™ & © 2025 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.