Manuel Encarnación/Especial para Acento.com.do
¿Qué sucede cuando un ciudadano solicita una ayuda social, un servicio público o un beneficio del Estado y recibe una respuesta negativa sin conocer las razones detrás de esa decisión? ¿Y si esa respuesta fue determinada o apoyada por un sistema de inteligencia artificial?
Esta es una de las interrogantes que cobra importancia tras la aprobación del Decreto núm. 787-26, mediante el cual el Gobierno dominicano establece el Código de Ética de la Inteligencia Artificial para los Servicios Públicos, una normativa que busca garantizar la transparencia, la responsabilidad y la protección de los derechos de los ciudadanos frente al uso de estas tecnologías en las instituciones estatales.
Uno de los aspectos más importantes de esta disposición es que reconoce el derecho de la ciudadanía a saber cuándo una decisión administrativa ha sido respaldada por inteligencia artificial, especialmente cuando puede afectar el acceso a servicios, beneficios sociales o la imposición de sanciones.
¿Cómo podrá saberlo un ciudadano?
De acuerdo con las disposiciones del nuevo código, las instituciones públicas deberán informar de manera clara cuando utilicen inteligencia artificial como apoyo en los trámites o decisiones administrativas que afecten a las personas.
Esto significa que, si una institución utiliza un sistema automatizado para evaluar una solicitud, determinar si una persona califica para recibir una ayuda económica o respaldar una sanción administrativa, el ciudadano tendrá derecho a conocer que esta tecnología intervino en el proceso.
Además, no bastará con comunicar que una solicitud fue rechazada. La institución deberá facilitar explicaciones comprensibles sobre la decisión y permitir que el ciudadano pueda cuestionarla cuando considere que se han vulnerado sus derechos.
El ciudadano podrá exigir explicaciones y una revisión humana.
Uno de los elementos fundamentales del Decreto 787-26 es la posibilidad de solicitar una revisión humana de las decisiones apoyadas por inteligencia artificial.
Por ejemplo, si una persona solicita un beneficio social y recibe una respuesta negativa, pero sospecha que un algoritmo evaluó incorrectamente su situación económica o sus datos personales, podrá solicitar información sobre la intervención de esa tecnología y pedir que un funcionario revise el caso.
De esta manera, la inteligencia artificial no deberá convertirse en una autoridad incuestionable ni en una barrera que impida al ciudadano defender sus derechos.
La revisión humana resulta especialmente importante porque los sistemas de inteligencia artificial pueden cometer errores, utilizar información desactualizada o reproducir patrones discriminatorios que perjudiquen injustamente a determinadas personas.
¿Qué mecanismos respaldarán ese derecho?
El decreto contempla varias medidas para fortalecer la transparencia y la supervisión del uso de estas herramientas tecnológicas.
Entre ellas se encuentran las Evaluaciones de Impacto Ético y de Derechos (EIED), que deberán realizarse antes de poner en funcionamiento sistemas de inteligencia artificial considerados de alto impacto, particularmente aquellos capaces de afectar derechos fundamentales, beneficios sociales o decisiones sancionadoras.
Asimismo, las instituciones deberán registrar los sistemas de inteligencia artificial que utilizan, designar funcionarios responsables de su supervisión y garantizar que estas herramientas puedan ser auditadas.
La Dirección General de Ética e Integridad Gubernamental (Digeig) tendrá un papel importante en la supervisión del cumplimiento de las disposiciones éticas y en la recepción de denuncias relacionadas con posibles incumplimientos.
Una nueva responsabilidad para las instituciones públicas
Con esta disposición, las entidades gubernamentales tendrán que asumir una mayor responsabilidad sobre las decisiones en las que intervenga la inteligencia artificial.
El objetivo es evitar que una persona sea perjudicada por una decisión automatizada sin conocer los motivos, sin poder cuestionarla o sin tener la oportunidad de recibir una evaluación realizada por un funcionario.
El decreto también establece un plazo transitorio de 180 días calendario para que las instituciones públicas adecuen sus procedimientos, registren los sistemas tecnológicos que utilizan y designen a los responsables de supervisarlos.
La transparencia como derecho ciudadano
Más allá de la modernización del Estado, el Decreto 787-26 plantea un desafío importante: garantizar que los avances tecnológicos no se traduzcan en una pérdida de derechos para la población.
La pregunta ya no será solamente por qué una institución rechazó una solicitud, sino también si utilizó inteligencia artificial para respaldar esa decisión, con qué criterios lo hizo y quién puede revisar el resultado.
En ese sentido, el ciudadano tendrá una herramienta fundamental para defenderse frente a posibles errores o decisiones injustas: el derecho a saber, a recibir explicaciones y a solicitar que una persona revise lo decidido.
Porque, aunque la inteligencia artificial puede contribuir agilizar los servicios públicos, las decisiones que afectan la vida de las personas deben estar sujetas a transparencia, supervisión y responsabilidad institucional.
El verdadero alcance del Decreto 787-26 no se medirá únicamente por la cantidad de instituciones que incorporen inteligencia artificial a sus operaciones, sino por la capacidad del Estado de garantizar que estas herramientas se utilicen sin menoscabar los derechos de la ciudadanía.
El reto estará en llevar estas disposiciones a la práctica, asegurar que los ciudadanos conozcan los mecanismos disponibles para reclamar y que las instituciones respondan cuando una decisión tecnológica pueda afectarles injustamente.
En definitiva, la modernización de los servicios públicos no debe significar que las personas tengan que enfrentarse a decisiones de una máquina sin posibilidad de obtener respuestas. La inteligencia artificial podrá apoyar la gestión del Estado, pero la transparencia, la rendición de cuentas y la protección de los derechos ciudadanos deberán seguir siendo responsabilidades humanas.
Compartir esta nota
Sigue leyendo
{{#volanta}}{{volanta}}{{/volanta}}