En 2016, un tribunal de Wisconsin utilizó un sistema llamado COMPAS para evaluar el riesgo de reincidencia de Eric Loomis. El algoritmo lo clasificó como riesgo alto. Fue condenado. Cuando intentó apelar argumentando que tenía derecho a conocer la lógica detrás de esa clasificación, la Corte Suprema del estado rechazó el recurso. Ese caso, todavía citado en facultades de derecho de todo el mundo, anticipa un debate que en Argentina está apenas comenzando.
Cómo llega la IA al sistema judicial
El uso de sistemas algorítmicos en el proceso judicial no es ciencia ficción ni patrimonio exclusivo del hemisferio norte. En la región, herramientas de análisis predictivo se han explorado para la selección de casos en el Ministerio Público, la evaluación de peligrosidad en audiencias de excarcelación y la clasificación automatizada de documentos judiciales.
La adopción suele justificarse con argumentos de eficiencia: más casos procesados, decisiones más uniformes, menos tiempo perdido. Lo que raramente se discute es el costo de esa promesa.
El problema del sesgo heredado
Los algoritmos aprenden de datos históricos. Y los datos históricos reflejan las desigualdades del pasado. Si históricamente ciertos grupos sociales fueron detenidos y condenados con mayor frecuencia — por razones que incluyen el sesgo del propio sistema — un modelo entrenado en esos datos reproducirá y amplificará ese sesgo. El resultado es un círculo vicioso: el algoritmo predice alto riesgo para personas que pertenecen a grupos sobrerrepresentados en las cárceles, lo que lleva a que se los trate con mayor severidad, lo que confirma la predicción.
¿Qué dice el derecho argentino?
El artículo 18 de la Constitución Nacional garantiza el derecho a la defensa en juicio. ¿Cómo se ejerce ese derecho cuando no podés conocer la lógica del algoritmo que te define como peligroso?
El principio de culpabilidad individual exige que cada condena se base en la conducta del acusado, no en estadísticas grupales. Un sistema que predice comportamiento futuro a partir de características demográficas no está juzgando lo que alguien hizo: está juzgando lo que estadísticamente podría hacer. Esa distinción es central en cualquier estado de derecho.
¿Qué hacemos mientras tanto?
La respuesta no es necesariamente prohibir todo uso de IA en el sistema judicial. Es regularlo: obligación de explicabilidad de los modelos, auditorías independientes, participación humana significativa en las decisiones finales y mecanismos de revisión accesibles. La ética algorítmica no es un lujo filosófico. En el contexto judicial, es una garantía constitucional.