El rol de la inteligencia artificial y el Big Data en la política criminal

Guillermo Leopoldo Mendoza Argüello

Posee Doctorado en derecho Penal. Es Director General de Defensoría de la Guardia Nacional.

El rol de la inteligencia artificial y el Big Data en la política criminal

Dadas las circunstancias de lo que acaece en el mundo, es necesario reflexionar sobre el impacto de la inteligencia artificial (IA) y el Big Data en la formulación y aplicación de la política criminal contemporánea. Existe ya un cierto avance en el análisis crítico de diversas experiencias en el mundo, en las cuales se aborda el uso de tecnologías predictivas en el sistema penal, así como los riesgos que estas herramientas suponen para los derechos fundamentales, especialmente en lo relativo a la privacidad, la no discriminación y el debido proceso. De antemano debe sostenerse que el uso de estas tecnologías debe estar regido por principios de legalidad, transparencia y proporcionalidad, en aras de una política criminal  que se circunscriba al ámbito de la justicia, el debido proceso y respecto de los derechos humanos.

La tecnologización de la vida social ha transformado profundamente la manera en que los Estados abordan la prevención y el control del delito. La inteligencia artificial (IA) y el Big Data se han incorporado a las estrategias de seguridad como herramientas capaces de procesar grandes volúmenes de información para identificar patrones delictivos, predecir comportamientos y optimizar recursos. Sin embargo, su uso dentro de la política criminal plantea una serie de interrogantes sobre la eficacia real de estos mecanismos, así como sobre sus implicaciones éticas y jurídicas. Acorde a lo anterior se hace pertinente el analizar críticamente el papel que desempeñan la IA y el Big Data en la política criminal, sus beneficios operativos y los riesgos que pueden representar para los derechos fundamentales.

Comentarios sobre la inteligencia artificial (IA) y definición del Big Data

El Big Data es un término que describe el gran volumen de datos, tanto estructurados como no estructurados: “Cuando hablamos de Big Data nos referimos a conjuntos de datos o combinaciones de conjuntos de datos cuyo tamaño (volumen), complejidad (variabilidad) y velocidad de crecimiento (velocidad) dificultan su captura, gestión, procesamiento o análisis mediante tecnologías y herramientas convencionales, tales como bases de datos relacionales y estadísticas convencionales o paquetes de visualización, dentro del tiempo necesario para que sean útiles.”[1] Es importante que ese gran cuerpo de datos se pueda analizar para obtener ideas que conduzcan a mejores decisiones y movimientos de negocios estratégicos, y para ello se utiliza la inteligencia artificial (IA).

La digitalización del control penal: fundamentos de una nueva política criminal

El surgimiento de sistemas predictivos como PredPol (Predictive Policing) en Estados Unidos COMPAS en el ámbito judicial ha generado una nueva forma de concebir la política criminal: una gobernanza algorítmica basada en datos.

PredPol  es un sistema de policía predictiva desarrollado inicialmente en 2011 por investigadores de la Universidad de California en Los Ángeles (UCLA), en colaboración con el Departamento de Policía de Los Ángeles; su nombre hace referencia a un sistema de vigilancia predictiva, y su objetivo es anticipar dónde y cuándo es más probable que ocurran ciertos delitos, con base en datos históricos. El sistema se basa en algoritmos que analizan información sobre tres variables principales: tipo de delito, lugar y hora en que ocurrió. A partir de estos datos, PredPol genera mapas que señalan áreas geográficas con mayor probabilidad de registrar nuevos delitos:

El objetivo era predecir las zonas delictivas y desplegar agentes de forma proactiva como medida disuasoria. El esfuerzo fue liderado por el jefe de policía William Bratton, quien lideró la vigilancia basada en datos en la ciudad de Nueva York en la década de 1990 y aportó su perspicacia al LAPD a principios de la década de 2000. La participación de Bratton, muy valorado en los círculos policiales, confirió credibilidad a la tecnología y contribuyó a su adopción por otros departamentos de policía de todo el país. (…) En 2012, crearon PredPol (ahora Geolitica), el software de vigilancia predictiva más utilizado del mundo. Según el sitio web de la empresa, su producto « se utiliza actualmente para proteger a una de cada 30 personas en Estados Unidos ».[2]

Estas herramienta promete anticiparse al delito mediante el análisis de patrones históricos y comportamentales, lo que modifica sustancialmente la lógica reactiva del sistema penal tradicional. Con respecto a otros sistemas complementarios derivados de la IA, en el ámbito judicial, y cuya utilización que se pudiese ver materializada en la administración de justicia y en los procesos penales (que han  empezado a utilizar diversos algoritmos predictivos de riesgo), pueden enlistarse el PSA, el LSI-R, HART, CAS, y COMPAS. Que, Según Linares son potencialmente aplicables a los procesos de toma de decisiones relacionados con la valoración del riesgo de aquellos individuos que se ven envueltos en el proceso judicial[3], y cuya función es determinar el grado de riesgo de reincidencia del individuo en diferentes etapas del proceso penal.[4]

Inteligencia artificial y prevención del delito: entre eficacia y arbitrariedad

Los sistemas de vigilancia predictiva tienen como propósito anticipar delitos en zonas o personas con alta probabilidad de reincidencia. En el ámbito judicial, se presenta como ejemplo paradigmático es el algoritmo COMPAS, utilizado para determinar riesgos de reincidencia en decisiones judiciales.

Para ello el uso de Big Data implica la recolección, almacenamiento y análisis de datos personales a gran escala. Sin embargo, en el contexto de la política criminal, esto puede derivar en prácticas de vigilancia masiva que afectan derechos como la privacidad, la libertad de expresión y la presunción de inocencia. Además, debe señalarse que los datos con los que se alimentan los algoritmos no son neutrales: provienen de sistemas con lógicas de vigilancia que ya de por sí son selectivas. Esto significa que las comunidades más vigiladas y criminalizadas son las que más aparecen en los datos, reforzando un ciclo de exclusión.

Hacia una política criminal digital con apego a los derechos humanos

La política criminal basada en IA puede derivar en una forma de discriminación estructural automatizada. Ello es porque los perfiles raciales, de clase o incluso de género pueden ser utilizados por los sistemas de AI como indicadores de riesgo, reproduciendo estereotipos y vulnerando el principio de igualdad ante la ley.

Frente a estos retos, se hace necesario establecer un marco normativo que regule el uso de IA y Big Data en el sistema de vigilancia y del ámbito legal. Este marco debe incorporar principios como:

• Legalidad: toda intervención debe tener base legal expresa.
• Proporcionalidad: el uso de tecnología debe ser necesario y adecuado.
• Transparencia: los algoritmos deben ser auditables y comprensibles.
• No discriminación: se deben evitar sesgos estructurales en los datos y modelos.

También se recomienda la creación de organismos independientes que supervisen el diseño, implementación y evaluación de estas herramientas.

Conclusiones

La inteligencia artificial y el Big Data tienen el potencial de transformar y eficientizar los programas de Política Criminal, empero, también pudiesen profundizar desigualdades y vulneraciones de derechos si no se usan con criterios garantistas. Lejos de reemplazar el juicio humano, estos sistemas deben ser utilizados como herramientas auxiliares o complementarias, sujetas a criterios de legalidad. Una legítima política criminal no es aquella que automatiza la represión, sino la que protege los derechos en el contexto de la tecnología.

Aunque tales herramientas operadas auxiliarmente por la AI han sido presentadas como base en la optimización de la gestión de recursos policiales y de administración de justicia, también han sido ampliamente criticadas por reforzar sesgos raciales y socioeconómicos, ya que se alimentan de datos que reflejan patrones de vigilancia policial histórica, muchas veces dirigidos de forma desproporcionada a comunidades racializadas y empobrecidas. Tales soluciones tecnológicas han sido criticadas por su falta de transparencia, y por reproducir sesgos preexistentes en los datos con los que fueron entrenadas.

No obstante, el panorama se presenta como fértil para el desarrollo y aplicación de soluciones de política criminal, que paulatinamente deben ser calibradas y transparentadas ara su aplicación en México. Ese es todo un reto que está por dilucidarse, pero que debe ser tomado en cuenta dada la condición de criminalidad existente en nuestro país.

Fuentes consultadas

PowerData (s/f) “Big Data: ¿En qué consiste? Su importancia, desafíos y gobernabilidad”. En: https://www.powerdata.es/big-data

Medium (2022, mayo 14), La historia de la policía predictiva en Estados Unidos. En: https://medium.com/@Vera_Kerber/a-brief-history-of-predictive-policing-in-the-united-states-ec3568e5c42c

LINARES, Fernando. Inteligencia Artificial y Justicia Penal: Más Allá de los Resultados Causados por Robots. Revista de Derecho Penal y Criminología, n. 20, p. 87-130, 2018. http://dx.doi.org/10.5944/rdpc.20.2018.26446

Instituto Brasileño de Derecho Procesal Penal. “Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos”. En: https://www.redalyc.org/journal/6739/673971913008/html/

[1] PowerData (s/f) “Big Data: ¿En qué consiste? Su importancia, desafíos y gobernabilidad”.

[2] Medium (2022, mayo 14), La historia de la policía predictiva en Estados Unidos.

[3] LINARES, Fernando. Inteligencia Artificial y Justicia Penal: Más Allá de los Resultados Causados por Robots. Revista de Derecho Penal y Criminología, n. 20, p. 87-130, 2018.

[4] Instituto Brasileño de Derecho Procesal Penal. “Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos”.