Los expertos proponen directrices para el uso responsable de la IA en la justicia penal, haciendo hincapié en la transparencia y la equidad para garantizar que se protejan los derechos constitucionales.
En una era en la que la inteligencia artificial permea la vida cotidiana, su invasión del sistema de justicia penal plantea una pregunta desafiante: ¿puede la IA mantener la imparcialidad en decisiones críticas que alteran la vida?
La IA participa cada vez más en tareas que tradicionalmente gestionaban jueces y juntas de libertad condicional, como la predicción de delitos, el análisis de ADN y la recomendación de penas de prisión. Si bien los sistemas de IA tienen el potencial de mejorar la eficiencia y la objetividad, hay mucho en juego, lo que plantea interrogantes urgentes sobre la equidad, la transparencia y la rendición de cuentas.
En abril de 2024, el Instituto Nacional de Justicia (NIJ) emitió una declaración pública solicitud de información para orientar el uso futuro de la IA en la justicia.
La Asociación de Investigación en Computación convocó a un equipo de expertos del mundo académico y de la industria para responder, incluido Cris Moore, profesor del Instituto Santa Fe, y Stephanie Forrest, profesora de informática en la Universidad Estatal de Arizona.
Su argumento principal se centra en la transparencia, especialmente cuando están en riesgo los derechos constitucionales.
“La idea de que un sistema opaco —que ni los acusados, ni sus abogados, ni sus jueces comprenden— pueda influir en decisiones importantes sobre la libertad de una persona repugna a nuestro sistema de justicia individualizado”, señalaron los autores. “Un sistema opaco es un acusador al que el acusado no puede enfrentarse; un testigo al que no puede contrainterrogar, que presenta pruebas que no puede refutar”.
A pesar de las preocupaciones iniciales sobre la reducción de la utilidad de la IA con una mayor transparencia, los avances en la IA explicable ofrecen soluciones prometedoras.
Los investigadores han desarrollado métodos para desmitificar los procesos de IA, permitiendo una mejor comprensión manteniendo la utilidad.
Las recomendaciones presentadas al NIJ en mayo de 2024 cubren varias áreas clave:
- Transparencia de datos y procesos: todas las partes interesadas, ya sea que utilicen IA o se vean afectadas por sus recomendaciones, deben comprender los datos y el razonamiento detrás de las decisiones impulsadas por IA.
- Especificidad en los resultados: las recomendaciones de IA deben ser cuantitativas y ofrecer probabilidades claras en lugar de etiquetas cualitativas, que pueden malinterpretarse fácilmente.
- Nunca sustituir el juicio humano: La IA no debería suplantar la toma de decisiones humana, especialmente en lo que respecta a los derechos constitucionales y la detención. En cambio, la IA podría servir como consultor digital para asistir a los jueces.
“Si el juez comprende el significado de los resultados del sistema, incluyendo los tipos de errores que puede cometer, creo que pueden ser herramientas útiles”, añadió Moore. “No como sustitutos de los jueces, sino para ofrecer una recomendación promedio o de referencia”.
El equipo siguió con un opinión detallada en la edición de agosto de Communications of the ACM, comentando la Orden Ejecutiva 13859, que exige pruebas seguras y confiables de IA al tiempo que protege las libertades civiles y los valores estadounidenses.
En este contexto, Moore subraya el equilibrio crucial que debe lograr la IA: mejorar la equidad y la transparencia sin abrumar el proceso judicial.
“Deberíamos usar la IA si aumenta la transparencia y la rendición de cuentas del sistema judicial. Si no, no deberíamos usarla”, afirmó Moore.
Moore compara la transparencia necesaria en la IA con sistemas como la Ley de Informes Crediticios Justos (FCRA). Si bien la FCRA exige la divulgación de los datos utilizados en las decisiones crediticias, no obliga a las empresas a revelar los procesos exactos, sino solo los datos. Un enfoque similar en el ámbito de la justicia podría equilibrar la transparencia con la practicidad.
En conclusión, el uso responsable de la IA en el sistema de justicia penal radica en su capacidad para mejorar, no oscurecer, la imparcialidad y la transparencia de los procedimientos.
Como lo expresó elocuentemente Moore: “Siempre debemos estar preparados para explicar la recomendación de una IA y cuestionar cómo se produjo”.
Fuente: Instituto Santa Fe