IA Aplicada en Sentencias Judiciales

El uso de las técnicas de la inteligencia artificial para automatizar decisiones en el sistema judicial. 

Ejemplos

Beneficios

  • asegurar consistencia en las decisiones judiciales; por lo tanto, imparcialidad al aplicar justicia
  • mejorar la eficiencia y reducir el tiempo para emitir sentencias judiciales
  • liberar tiempos de los fiscales y jueces y permitirles hacer un mejor uso de su tiempo dedicando sus esfuerzos a casos complicados. 

Amenazas relacionadas con la mala utilización y el uso abusivo

Capacidad de explicación – En la mayoría de los casos, no se sabe cómo el algoritmo aplicado toma decisiones. Trabajan como cajas negras. En algunos países donde se usan dichos sistemas para aconsejar en sentencias judiciales, usualmente los jueces no son conscientes de los detalles de los algoritmos. Los jueces deben ser entendidos en leyes pero no necesitan saber ni sobre programación, ni sobre inteligencia artificial. ¿Cuánto deben saber los jueces y los fiscales sobre el algoritmo? ¿Cómo puede el algoritmo explicar la decisión?

Decisión final tomada por un sistema automatizado – El uso de sistemas de inteligencia artificial puede reducir significativamente el tiempo necesario para procesar información y tomar una decisión en el sistema judicial. Sin embargo, ¿puede la decisión de un tribunal confiar solamente en una decisión tomada por un sistema automatizado? ¿Debería un juez tomar la decisión final? Generalmente, los algoritmos de inteligencia artificial toman decisiones basadas en casos anteriores. Puede suceder que en casos anteriores hayan existido sentencias incorrectas, por ejemplo, casos de discriminación. Si esos datos son usados, es probable que el algoritmo vuelva a decidir en una forma discriminatoria. El hecho de poseer un sistema de decisión automatizado para la justicia plantea los mismos desafíos éticos que los escenarios para los diagnósticos médicos automatizados. El caso de cada persona es diferente. En un escenario de 100 casos similares con el mismo veredicto, ¿cómo puede hacerse respetar la justicia replicando el veredicto para el caso 101? ¿es realmente lo mismo? Los casos se toman por similitud o aproximación y esto puede fallar.

Consideración de la evolución de la sociedad – ¿Cómo pueden los sistemas de inteligencia artificial lidiar con la evolución de las sociedades? Los algoritmos de aprendizaje de máquina predicen basándose en datos pasados de situaciones previas y en el cálculo de la probabilidad. La pregunta es ¿cómo pueden los algoritmos considerar la evolución en los modelos de predicción actuales? Seguramente, la decisión que un sistema puede tomar hoy basándose en datos pasados no será la misma que la que puede tomar el mismo sistema dentro de 20 años con los datos producidos en el nuevo período. Por lo tanto, diferentes técnicas artificiales, como las que se basan en la argumentación, deben analizarse y aplicarse.  

Desafíos Éticos

La siguiente tabla sintetiza desafíos éticos asociados a los sistemas de IA aplicados en sentencias judiciales.

ID DESAFÍO RELACIONADO CON *
C1 Asegurar que los sistemas inteligentes puedan explicar el proceso de toma de decisión y los criterios aplicados para tomar la decisión Principio A (apertura)
C2 Asegurar que todas las cuestiones especiales, características y antecedentes relacionados con un caso judicial han sido considerados por el sistema inteligente aplicado y que la sentencia judicial final es dictada por una persona Principio D
C3 Probar que el sistema inteligente considera los hechos más recientes para tomar una decisión y no solo datos viejos Principio D

* Ver Principios para saber más acerca de los principios