¿Tecnología peligrosa? Un algoritmo lo mandó a la cárcel y era inocente

Michael Williams posa para un retrato en su casa de South Side Chicago el martes 27 de julio de 2021. Williams estuvo tras las rejas durante casi un año antes de que un juez desestimara el caso de asesinato en su contra en julio a pedido de los fiscales, quienes dijeron que no tenían pruebas suficientes. (Foto AP / Charles Rex Arbogast)
facebook sharing buttonCompartir
twitter sharing buttonTwittear
whatsapp sharing buttonCompartir
telegram sharing buttonCompartir

Por: Associated Press

jueves 19 agosto 2021 - 10:41 p. m.

Williams fue encarcelado en agosto pasado, acusado de matar a un joven de su vecindario que le pidió que lo llevara en su automóvil

CHICAGO, Estados Unidos — La esposa de Michael Williams le rogó que recordara los viajes a pescar con sus nietos, cómo solía trenzar su cabello, cualquier cosa para devolverlo a su mundo fuera de los muros de concreto de la prisión del Condado Cook.

Las tres llamadas diarias que podía hacerle a ella se habían convertido en un salvavidas, pero cuando se redujeron a dos, luego a una, y después a unas pocas a la semana, Williams, de 65 años, sintió que no podía seguir adelante. Planeó quitarse la vida con un alijo de píldoras que había almacenado en su dormitorio.

Williams fue encarcelado en agosto pasado, acusado de matar a un joven de su vecindario que le pidió que lo llevara en su automóvil una de las noches de disturbios por la brutalidad policial en mayo. Pero la evidencia clave contra Williams no provino de testigos o un informante, sino de un video de seguridad sin sonido que mostraba un automóvil que cruzaba una intersección y de un fuerte ruido explosivo captado por una red de micrófonos de vigilancia. Los fiscales dijeron que la tecnología, que utilizaba un algoritmo secreto que analizaba ruidos detectados por sensores, indicó que Williams le disparó y mató al hombre.

Williams permaneció tras las rejas durante casi un año antes de que un juez desestimara el caso en su contra el mes pasado a petición de los fiscales, quienes finalmente dijeron tener evidencia insuficiente.

La experiencia de Williams subraya los impactos en el mundo real de la creciente dependencia de algoritmos para ayudar a tomar decisiones que tienen impactos significativos en la vida pública. En ninguna parte es esto más evidente que en la aplicación de la ley, que ha recurrido a empresas de tecnología como la compañía de detección de disparos ShotSpotter para combatir el crimen. Evidencias procedentes de ShotSpotter han sido admitidas cada vez más en casos judiciales alrededor de Estados Unidos, y actualmente suman unos 200. El sitio web de ShotSpotter dice que es “un líder en soluciones de tecnología policial de precisión” que ayuda a detener la violencia armada mediante el uso de “sensores, algoritmos e inteligencia artificial” para clasificar 14 millones de sonidos en su base de datos como disparos de armas u otra cosa.

Sin embargo, una investigación de The Associated Press, con base en la revisión de miles de documentos internos, correos electrónicos, presentaciones y contratos confidenciales, junto con entrevistas a docenas de defensores públicos en comunidades donde se ha desplegado ShotSpotter, ha identificado una serie de fallas graves en el uso de ShotSpotter como apoyo probatorio para los fiscales.

Jacqueline Anderson toma de la mano a su esposo, Michael Williams, en su casa el martes 27 de julio de 2021, en el sur de Chicago. En su primera noche en casa, Michael no podía comer solo. Le dio COVID-19 dos veces mientras estaba en la cárcel, pero desarrolló un temblor incontrolable en su mano que le impedía sostener una cuchara. Entonces su esposa lo alimentaba. (Foto AP / Charles Rex Arbogast)

La investigación de la AP encontró que el sistema no necesariamente detecta los disparos en vivo justo bajo sus micrófonos, o clasifica erróneamente como disparos de arma los sonidos de los fuegos artificiales o de los escapes de los autos. Reportes forenses elaborados por empleados de ShotSpotter han sido utilizados en los tribunales para afirmar indebidamente que un acusado disparó a agentes de la policía, o proporcionar detalles inexactos sobre el número de disparos realizados. En varios casos, los jueces han desestimado la evidencia.

Los algoritmos patentados de ShotSpotter son el principal punto de venta de la compañía, y con frecuencia promociona la tecnología como virtualmente infalible en sus materiales de mercadotecnia. Pero cómo funciona exactamente el sistema cerrado de la empresa privada es algo resguardado como secreto comercial, una caja negra en gran medida inescrutable para el público, los jurados y las juntas de supervisión de la policía.

Abrir Chat
1
¡Hola! En qué podemos ayudarte?