La UNESCO ante la IA
El filósofo e investigador Rafael Capurro (2019), de origen uruguayo pero que lleva cincuenta años residiendo en Alemania y que ha dedicado su vida a los estudios éticos informacionales, cibernéticos, digitales e IA, aborda en un ensayo titulado “The age of artificial intelligences: A personal reflection” (traducción libre: “La era de las inteligencias artificiales: Una reflexión personal”) las implicaciones sociales y éticas de la IA desde los años setenta, en los que participó en la elaboración teórica de la narración sobre si las máquinas pueden pensar.
En estas reflexiones, Capurro menciona que se encontró en varias ocasiones con Weizenbaum, el creador del famoso ELIZA, un programa informático para el estudio de la comunicación en lenguaje natural entre el hombre y la máquina. Weizenbaum, quien escribió el libro “Computer Power and Human Reason”, debatió con John McCarthy, quien usó el término “inteligencia artificial” en relación con el tema de las “máquinas pensantes” en la Dartmouth Conference en 1955 (Capurro, 2022).
He estado trabajando en el enfoque filosófico y tecnocientífico de Capurro, y el intercambio de ideas con él me ha llevado a reflexionar y profundizar en la relación de la ética con la inteligencia artificial (IA) y su impacto en la sociedad. La IA tiene el potencial de transformar muchos aspectos de la vida humana, como el trabajo, la economía, la educación, la salud, la cultura y el medio ambiente. Sin embargo, es importante tener en cuenta que la IA estrecha o débil, que es la que cubre el cibermundo, tiene capacidad limitada.
La IA no solo permite que la máquina pueda procesar, con sus algoritmos de aprendizaje automatizado reconocimiento de voz, análisis de datos, sino también sean capaz de realizar múltiples tareas que requieren de inteligencia humana en el proceso de aprendizaje, razonamiento, resolución de problemas hasta la toma de decisiones y la forma que interactuamos en espacio social y en el ciberespacio virtual.
Aunque es cierto que muchas de estas aplicaciones de IA pueden superar o igualar en eficiencia y resistencia a los humanos, no por eso estas aplicaciones con este tipo de inteligencia pueda aplicarse directamente a otros ámbitos como los expresan Fengchun Miao et al, en el texto Inteligencia artificial y educación (2021), donde señalan que “la IA utilizada para predecir el tiempo es incapaz de predecir los movimientos del mercado de valores, mientras que la IA utilizada para conducir un vehículo es incapaz de diagnosticar un tumor” (p.13).
Es importante comprender que la inteligencia artificial (IA) y sus dispositivos inteligentes no se pueden desvincular de la ética y lo social. Los chatbots de IA son entrenados en procesamiento de datos que muchas veces pueden producir discriminación, sesgo sociales, políticos y culturales. Esta discriminación puede manifestarse en forma de desigualdad social por causas económicas, raciales, de género, orientación sexual o religiosa.
Es fundamental que se tomen medidas para garantizar que la IA se utilice de manera ética y responsable, y que se aborden los problemas de sesgo y discriminación. La IA tiene el potencial de mejorar la vida de las personas, pero solo si se utiliza de manera responsable y se abordan los problemas éticos y sociales que surgen.
Esto plantea importantes desafíos y riesgos éticos en el cibermundo, como el respeto a la privacidad, la seguridad, la responsabilidad, la transparencia o la equidad. Por ello, se hace imprescindible orientar el desarrollo y el manejo de la IA hasta el punto de que se garantice el respeto a los derechos humanos, la dignidad humana y el bien común.
La asunción de la postura ética en cuanto inteligencia artificial, cibernética, digital y virtual en estos tiempos transidos nos lleva por una comprensión y reflexión de lo que son las trasformaciones económicas, políticas y culturales que sacuden a la humanidad; las cuales a la vez producen cambios de mentalidades, sin que con esto se desvanezcan por completo los valores, las creencias y ciertas normas de convivencia sociales que subyacen en los seres humanos.
Existen creencias, valores morales que se encuentran en los escritos antiguos y en todas las comunidades humanas más antiguas que se colocan más allá de cualquier época, como son: solidaridad, misericordia y cooperación.
Es sobre la pervivencia histórica de estos valores humanos que debemos luchar y obrar cada vez más ante unos tiempos de policrisis, donde predominan más los conflictos que la paz, más las guerra y ciberguerra económica, política y militar, que la seguridad y ciberseguridad y más la insostenibilidad y destrucción planetaria por el calentamiento global, que por su sostenibilidad.
Las revoluciones que sacuden al mundo cibernético como son trasformación ciberespacial, digital, el ir y venir de las redes sociales, lo virtual con su realidad aumentada, la IA y la computadora cuántica, están siendo acompañadas de guerra, ciberguerra y cambio climático.
Todos estos fenómenos se encuentran interconectados y nos ponen en riesgo como especie y como planeta. Por lo que se ha de partir de un enfoque de la ética en inteligencia artificial desde una perspectiva pluralista y multidimensional, que combine diferentes criterios y principios éticos para evaluar y guiar las acciones relacionadas con la IA.
Enfoque este que se refleja en el documento de la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, que es el primer instrumento normativo mundial sobre el tema y que fue adoptado el 23 de noviembre de 2021 por los 193 Estados miembros de la Conferencia General de la UNESCO, y en el cual llegamos a participar en representación del gobierno dominicano a través del Ministerio de Educación Superior, Ciencia y Tecnología (MESCyT). Mucho antes de su aprobación participamos en varias consultas virtuales encaminadas al proceso de la elaboración de las recomendaciones.
En el documento (2022), se asume la ética de manera dinámica, no estacionaria, en constante orientaciones normativas sobre las tecnologías de la IA y contiene un conjunto de propuestas sobre valores y principios éticos relacionado a lo que es el diseño, el desarrollo y el uso de la IA, sin dejar al margen el contexto social y su accionar político para su implementación, ya que el documento de la UNESCO son propuestas cargadas de valores fundamentales como son: respeto a la dignidad humana, la libertad y el bienestar social.
Estas recomendaciones sitúan los sistemas de IA como un diseño para funcionar con cierto grado de autonomía y con tecnología de procesamiento de la información en la que se integran modelos y algoritmos que generan determinada capacidad no solo para aprender sino también para realizar tareas cognitivas.
La IA produce resultados como “la predicción y la adopción de decisiones en entornos materiales y virtuales”. Además, los sistemas de “IA pueden utilizarse en los sistemas ciberfísicos, incluidos la Internet de las cosas, los sistemas robóticos, la robótica social y las interfaces entre seres humanos y ordenadores, que comportan el control, la percepción, el procesamiento de los datos recogidos por sensores y el funcionamiento de los actuadores en el entorno en que operan los sistemas de IA” (UNESCO,2022, p.10).
En esta recomendación, la UNESCO deja bien precisado que el abordaje de la ética de la IA no excluye ninguno de los ciclos de vida de estos sistemas artificiales, lo integra todo y los que se encuentran relacionados a la concepción e investigación, así como “el desarrollo hasta el despliegue y la utilización, pasando por el mantenimiento, el funcionamiento, la comercialización, el desmontaje y la terminación” (p.10).
Lo que no deja a ningún sujeto cibernético fuera de la responsabilidad moral de la construcción del ciclo de vida del sistema IA, además de estos sujetos vivientes como capacidad lingüística, discursiva, también incluye a la personas jurídicas que son las fachadas donde se escamotean estos sujetos cibernéticos: “los actores de la IA pueden definirse como todo actor que participe en al menos una etapa del ciclo de vida del sistema de IA y pueden ser tantas personas físicas como jurídicas, por ejemplo, investigadores, programadores, ingenieros, especialistas en datos, usuarios finales, empresas, universidades y entidades públicas y privadas, entre otros” (UNESCO, ibid.).
Entre los valores y principios se reconoce al sujeto cibernético como artífice de los sistemas de IA y a este tipo de inteligencia como su copiloto o asistente no como sujeto:
Las personas pueden interactuar con los sistemas de IA a lo largo de su ciclo de vida y recibir su asistencia, por ejemplo, para el cuidado de las personas vulnerables o en situación de vulnerabilidad, incluidos, entre otros, los niños, las personas de edad, las personas con discapacidad o los enfermos (UNESCO.p.18).
En cualquier interacción en el cibermundo, es importante recordar que los sujetos cibernéticos nunca deben ser cosificados. La dignidad no debe ser menoscabada y los derechos humanos y libertades fundamentales nunca deben ser violados o abusados. Para contrarrestar el proceso de cosificación, que consiste en desvalorizar al sujeto y reducirlo a un objeto sin valor, dignidad o sentimiento, es fundamental respetar los derechos a la intimidad y protección de datos. Reducir a un sujeto a la condición de cosa significa tratarlo como un objeto sin lenguaje y pensamiento.