El imperdible XXI Congreso Internacional de Copardom sobre prevención de riesgos laborales, celebrado esta misma semana, tuvo como guía temática los retos digitales y sociales de la seguridad y la salud en el trabajo. Y uno de los temas que más llamó mi atención, por su importancia y porque me tocó abordarlo, fue el de los principios éticos que deben regir el uso de la inteligencia digital en la prevención de riesgos laborales.
No pretendo recrear todo lo interesante que abordamos quienes conformamos el panel en el que tuve la oportunidad de participar, con ilustres y queridos colegas, como lo son Rosalina Trueba, Laura Medina y Tomás Hernández, contando con la ejemplar conducción de la experimentada Yudith Castillo. Lo que quiero hacer es, partiendo de lo expresado, adelantar algunos juicios sobre algunos retos éticos que plantea para los derechos fundamentales y la democracia y el constitucionalismo digital la inteligencia artificial (IA).
Cada vez más la comunicación digital y la IA van hacia la inmaterialidad del control, fiscalización y la prevención. Estamos ya brincando la cerca de la supervisión personal y directa para pasar a la virtual y en tiempo real, lo que trae grandes y diversos retos.
La IA es un sistema innovador y muy avanzado que posibilita la implementación de métodos destinados a la prevención de riesgos laborales; pero es innegable que plantea también desafíos de cara a la vida laboral y mucho más allá. De manera especial para asegurar que la ciencia y la tecnología se desarrollen si desbordar los límites que provienen de la ética.
Son muy ciertas las oportunidades derivadas de la IA; pero estos grandes cambios también plantean profundos dilemas éticos, como afirma la UNESCO, pionera en el movimiento para rodearlos con un traje de amianto ético, dados los riesgos de que los sistemas de IA permitan facilmente reproducir prejuicios, contribuir a la degradación del clima y amenazar los derechos humanos, lo que se suma a las desigualdades ya existentes, de manera particular en los grupos históricamente marginados.
La guía ética es condición necesaria para la implantación de la IA, por los grandes cambios que producen estas tecnologías en el trabajo, la interacción y la vida misma.
Para garantizar el correcto uso e implementación de la IA, precisamente la UNESCO, creó, en 2021, el primer marco normativo universal sobre ética de la inteligencia artificial, estableciendo 10 principios éticos basados en la “recomendación sobre la Ética de la IA”, que, además de servir de base para el uso de la inteligencia digital en la prevención de riesgos laborales, permita su uso en todos los ámbitos sin poner en ascuas los derechos fundamentales y las libertades públicas, reconocidos constitucional y convencionalmente.
Creo que “copiar y pegar” estos principios en las normas propias de cada actividad donde intervenga o pueda hacerlo la comunicación digital y la IA es una excelente base para iniciar el proceso de previsión inteligente e innovadora, pero con el debido control ético.
Con ello se busca evitar que los avances tecnológicos no se conviertan en amenazas y lesiones a los derechos humanos de sus destinatarios y sí constituyan instrumentos de eficacia y eficiencia, que tengan como centro de protección al ser humano que está detrás de la implementación de las novedades científicas y tecnológicas.
Los diez principios de la UNESCO indican que la IA : 1) No debe hacer daño a los individuos ni a la colectividad, en todos los entornos; 2) Debe tener una finalidad definida, necesidad y proporcionalidad, lo que significa que el uso de los métodos de IA debe estar justificado; 3) Debe asegurar, proteger y prevenir cualquier daño a los seres humanos; 4) debe asegurar la equidad y la no discriminación para que las personas no sean engañadas o menoscabadas injustificadamente en sus derechos humanos y libertades fundamentales; 5) debe ser sostenible, pues las tecnologías de la IA deben evaluarse continuamente para disminuir y prevenir los impactos adversos; 6) debe respetar el derecho a la privacidad, protección de datos y gobierno de datos; 7) debe gozar de autonomía humana y control, para que todas las etapas del ciclo de vida del sistema de IA incorporen prácticas de diseño centradas en el ser humano; 8) debe ser transparente y explicable, ya que debemos entender las decisiones que pueden lesionar derechos, libertades fundamentales, servicios o beneficios; 9) debe garantizar la responsabilidad y la rendición de cuentas para que sean responsables ética y jurídicamente quienes toman las decisiones de su implementación; y, 10) debe ser inclusiva y participativa.
Es innegable que el COVID-19 agitó la bandera del constitucionalismo en la era digital. Dicho virus le puso velocidad a la digitalización de la sociedad, de los servicios públicos, del sector salud, con la telemedicina y los primeros algoritmos. Aceleró la educación digital y la digitalización del sistema de justicia, incrementando la importancia de Google, Amazon, Facebook, Apple e Instagram.
Ello reveló tambien la amplitud de la globalización, la omnipresencia de la IA, las debilidades de las estructuras hospitalarias, de algunos sistemas de protección social. Pero, aun más, permitió ver aspectos del derechos mismo como las carencias del derecho constitucional, su plasticidad extrema, su carencia de normatividad en situaciones extremas, como afirma Stéphane Pinon.
Para Pinon, de la materialidad de los derechos o del estado constitucional estamos pasando al “constitucionalismo digital”. De igual forma, del constitucionalismo y la democracia de la “protección”, propia de la segunda mitad del siglo XX, la primera propia de Hans Kelsen, ya pasamos a la democracia constitucional de la participación.
Ahora, en lugar del control de constitucionalidad y del recurso de amparo, estamos pasando, sin abandonarlas, las iniciativas populares, no solo las consagradas en la Constitución, sino las que resultan de las manifestaciones como las ya históricas de la Plaza de la Bandera y otras de relativo reciente cuño. En este momento se trata de abrir las puertas de la sala de máquinas del Estado (Gargarella) a la participación ciudadana directa y, más allá de la pluralidad política, dar un paso más hacia la pluralidad social.
Esto implica encontrar nuevas formas de representación y de fiscalización y control social, dado que la nueva “condición digital” de la humanidad es la negación de toda delegación perdurable del poder, de las lecciones de Sieyès, de James Madison, de Emmanuel Orlando y con ello el rechazo de las “élites”, como los congresistas que representan la voluntad popular. Y es que para el pueblo digitalizado, toda jerarquía se interpreta como una forma de discriminación.
Entre otras obras que abordan con singular cuidado, profundidad y extensión el tan candente tema de la IA, para ilustrarnos, recomiendo, la de Derechos fundamentales y democracia en el constitucionalismo digital, dirigida por Francisco Balaguer Callejón e Ingo Wolfgang Sarlet, de la Editorial Aranzadi, del cursante año 2023.
De ella he tomado algunos criterios que nos deben servir de luz para entender los grandes desafíos éticos a los que se ha referido la UNESCO y de naturaleza constitucional y democrática que nos plantea la IA y la digitalización de la comunicación.