Código Iberoamericano para el uso de IA en el Poder Judicial

En anteriores oportunidades se han compartido en este espacio, las novedades de las vigentes regulaciones de los sistemas de IA que se expidieron en 2025 en Francia (Corte de Casación y Consejo de Estado) y en enero de 2026, en España (Consejo General del Poder Judicial), por ser países con los que guardamos afinidades con su sistema jurídico.

Algunos Estados del continente americano han venido promoviendo la regulación de los sistemas de IA, con la finalidad de su aprovechamiento seguro y confiable en las respectivas realidades nacionales, pero en la mayoría la normativa se encuentra en estudio o en proyectos en fase de consulta. Ello no ha impedido que se hayan planteado situaciones que han sido resueltas mediante decisiones judiciales, por los tribunales.

Por otro lado, los Estados asistentes a la Cumbre Judicial Iberoamericana de 2025, propusieron un Código Ético para el uso de la inteligencia artificial (IA) en el ámbito judicial, cuya naturaleza jurídica no es un convenio o tratado internacional, sino una propuesta de regulación que pretende recoger las mejores prácticas y brindar una orientación coherente y sistemática a cada Estado, para expedir su propia regulación. Se trata de un instrumento de derecho suave o blando, que carece de fuerza normativa directa y no impone obligaciones exigibles.

Este texto tiene por objeto establecer los principios y las directrices éticas, que informan el uso, desarrollo, gestión y supervisión de los sistemas de IA en el Poder Judicial, con absoluto respeto de los derechos humanos, la dignidad de las personas, la independencia judicial y los principios fundamentales del Estado democrático de Derecho, colocando así a la tecnología en la posición de servidumbre que realmente le corresponde, con relación a las personas y al Poder Judicial.

En cuanto a su ámbito subjetivo, se dirige a los jueces, magistrados, personal técnico y administrativo, así como a los programadores y a los proveedores de tecnologías que diseñan y operan los sistemas de IA.

El ámbito espacial se proyecta sobre el contexto iberoamericano, proponiendo estándares mínimos comunes para 23 Estados, a los fines de regular la integridad del ciclo de vida de los sistemas de IA, que se emplean en los órganos que integran el Poder Judicial.

Se ofrece una definición de “sistema de IA” que guarda similitud con otras que se han ido estableciendo a nivel internacional, considerando como tales “cualquier sistema tecnológico basado en máquinas, diseñado para funcionar con distintos grados de autonomía. Estos sistemas pueden adaptarse tras su implementación, tomando decisiones, generando recomendaciones o realizando predicciones basadas en datos de entrada, con el objetivo de influir en entornos, ya sean físicos o virtuales”.

El Código enumera un listado de principios fundamentales que deben respetar los operadores judiciales, que utilizan los sistemas de IA en Iberoamérica.

1. Respeto de los derechos humanos y del Estado de Derecho: Garantiza que se respeten los derechos humanos y las libertades fundamentales, en todas las fases del proceso judicial.
2. Protección de datos personales: Salvaguarda la protección de los datos a través de entornos seguros y verificables, para preservar su integridad e inviolabilidad.
3. Supervisión humana permanente: Asegura que las decisiones finales se tomen sobre la base de un juicio ético y jurídico.
4. Imparcialidad y no discriminación: Evitando los prejuicios y los sesgos, motivados en razones de género, raza, etnia, religión, orientación sexual o cualquier otra característica personal.
5. Transparencia: Todos los procesos deben ser públicos.
6. Explicabilidad: Deben ser entendibles, en un lenguaje claro e inteligible para todos, permitiendo que las personas comprendan los fundamentos de las decisiones y puedan cuestionarlas o recurrir contra ellas.
7. Seguridad y calidad: Deben ser protegidos, robustos y eficaces, estando su uso limitado a fines legítimos.
8. Proporcionalidad: El uso debe ser proporcional al beneficio esperado y no exceder lo necesario para alcanzar los objetivos de eficiencia y justicia.
9. Responsabilidad y rendición de cuentas: Identificación clara de los responsables de la implementación.
10. Registro y trazabilidad: Asegurar el registro de datos de entrada, parámetros y resultados, para hacer seguimiento durante un periodo determinado.

El uso de los sistemas de IA no debe comprometer la independencia de los magistrados y los jueces, ni sustituir el razonamiento jurídico humano.

Los datos que se usen para entrenar los sistemas de IA deben ser de alta calidad y tratarse de forma ética, respetando la privacidad.

Los usuarios de los sistemas de IA tienen los derechos siguientes:

1. Transparencia para las personas, en virtud de lo cual deben ser informados de forma accesible, sobre la aplicación de estas tecnologías.
2. Acceso a la información, para que puedan conocer sobre el empleo que se dará a los datos y sobre cómo el uso de los sistemas de IA contribuye a las decisiones.
3. Accesibilidad de las herramientas, que tengan interfaces comprensibles, materiales educativos y canales de atención que faciliten el entendimiento, así como que respeten la diversidad cultural y lingüística.

Las directrices prácticas para el uso de los sistemas de IA en el Poder Judicial conducen a la evaluación de riesgos, seguimiento continuo y la formación permanente de jueces, magistrados, demás operadores jurídicos y programadores, con herramientas que permitan abordar las capacidades, las limitaciones y los riesgos éticos de la IA.

Los sistemas de IA deberán clasificarse según su nivel de riesgo -conforme a los estándares internacionales-, aplicando controles reforzados para aquellos considerados de alto riesgo. Además, se proponen las inspecciones periódicas por organismos independientes y la obligación de implementar protocolos de mitigación y suspensión, en caso de violaciones de derechos.

Se establece la recomendación de evitar el empleo de los sistemas de IA para imponer penas y la evaluación en casos de la reincidencia.

Lo anterior está concatenado con la exigencia de uso responsable en los sistemas de IA, con la finalidad de evitar la influencia o la manipulación de comportamientos; la interdicción de aplicar los sistemas de IA para técnicas de persuasión o presión sobre los magistrados, los jueces y las partes; la no creación de perfiles de comportamiento, que pueden llevar a manipular las decisiones judiciales; la sujeción a rigurosos controles y  evaluaciones de transparencia y auditabilidad; y, la necesidad de adopción de medidas correctivas y suspensión cautelar, en caso de uso abusivo.

El uso de los sistemas de IA para la adopción de las resoluciones judiciales debe realizarse teniendo en consideración la preservación de la independencia y la imparcialidad de los magistrados y los jueces; que los sistemas de IA no sustituyen al razonamiento jurídico humano, razón por la que aquellos y estos tienen plena responsabilidad en la toma de las decisiones finales, basados en la valoración crítica de los hechos; así como el deber de motivación clara, incluyendo los elementos proporcionados por los sistemas de IA; el uso se debe limitar exclusivamente a brindar apoyo para el análisis de grandes volúmenes de datos; lo que lleva a realizar la capacitación continua de los magistrados y jueces, sobre los riesgos de sesgos; e incluso, a la suspensión del uso, en caso de fallo técnico o riesgo para la imparcialidad.

Finalmente, el texto propone la ejecución de auditorías continuas, revisiones algorítmicas y la obligación de documentar todas las acciones de verificación.

Esta propuesta de Código Ético para el uso de la inteligencia artificial (IA) en el ámbito judicial, que fue consensuada por los representantes de los Estados en la Cumbre Judicial Iberoamericana, constituye una valiosa directriz y una guía a tener en consideración por el Poder Judicial, para que junto con las mencionadas al comienzo de estas reflexiones, sirvan de referencia para la adopción de los criterios que mejor se ajusten a la realidad jurídica nacional.