Gobernanza justa en la IA
Sin dejar de darle importancia al debate teórico y filosófico que se generó a partir de la década de los 50 del siglo XX, sobre la propia definición de la IA o si esta puede o no superar la inteligencia humana, las discusiones que van marcando esta tercera década del siglo XXI, entra en el plano social, político, económico, militar y ético, sin dejar por supuesto los referentes filosóficos cibernéticos y de ciencia y pensamiento de la complejidad que subsisten en estos debates, como lo relacionado al sujeto cibernético, ciberpoder, ciberespacio, al control virtual, la ciberseguridad y la ciberguerra que envuelven al cibermundo.
Como bien explica el filósofo tecnocientífico e innovador Javier Echeverría en su ensayo sobre “La Inteligencias Artificiales Colectivas: Un Enfoque Europeo” (2023, Pp. 1-18. inédito), en estos debates sobre IA, se debe ir por una “filosofía de la acción inteligente, más que en una filosofía del Ser Inteligente (supuesto que haya una entidad así)”.
Aquí entra como primer plano, más que una repetición de lo ya sabido y concebido, cierta crítica a ese enfoque reiterativo y epistémico de la IA, porque como lo señala Echeverría, no hace mención alguna a la inteligencia animal, “siendo así que, como saben los etólogos, muchos comportamientos animales muestran una clara capacidad de entender lo que sucede en el entorno y decidir qué conviene hacer en tal o cual situación, individual o colectivamente. El antropocentrismo es un defecto originario de la IA desde su origen, incluidos Turing, McCarthy, Minsky, Shannon y demás pioneros” (p.6).
El enfoque epistémico de la IA desde su inicio fue muy diferente al enfoque filosófico cibernético, que se preocupó en el plano de la IA, robótica y la computación en el plano de epistémico de conceptos como control, regulación y funcionamiento entre los seres vivos y las máquinas. No se quedó en el reduccionismo antropocéntrico de IA e inteligencia humana.
Hace unos días estaba en San Sebastián con mi amigo Javier Echeverría, luego de algunos intercambios de ideas me envió este interesante ensayo que he citado y que escribió recientemente, y que se encuentra inédito. Algunas de sus reflexiones van por la línea de la gobernanza justa en la IA.
Echeverría, desde su experiencia de investigador en el ensayo narra como lo que han analizado (incluyéndolo a él) las políticas europeas de I+D+i (investigación, desarrollo e innovación) “son muy escépticos ante declaraciones y objetivos tan ambiciosos”, en este caso diría, con relación a la IA. Esto va ilustrando como lo precisa él “una de las principales dimensiones de las tecnociencias contemporáneas: el marketing conceptual y la retórica tecnopolítica a la hora de planificar” (p.3)
En el ensayo hace referencia a la Agenda de Lisboa del año 2000, de la Comisión Europea (CE), que para aquel entonces habíamos trabajado, entre otras tanta que luego aparecieron, pero es en esta agenda que como bien dice él, se aborda “la presunta sociedad europea del conocimiento” y como para el 2010, esta unión sería el líder mundial de esa nueva modalidad de sociedad, cuya entidad fue y sigue siendo, ante todo, desiderativa. Tan solo cinco años después, nos dice Echeverría, la CE tuvo que reconocer que ese liderazgo no lo tendría Europa, por su limitada capacidad de innovar, sino que lo mantendrían los EEUU de América. Japón había cedido algo en el empuje innovador que mostró a finales del siglo XX, pero habían surgido otros rivales, los BRICs (Brasil, Rusia, India y China): nuevos actores en esa lucha por una imaginaria “sociedad del conocimiento” que advendría “necesariamente” en el siglo XXI, tras el éxito de las TIC (tecnologías de la información y la comunicación) y de las “sociedades de la información” a finales del siglo XX. Dicho sea de pasada, nos sigue explicando, se reveló así otra dimensión clave de la tecnociencia, más allá de la I+S, a saber, su dependencia de las inversiones, públicas o privadas. Los grandes avances de la IA basada en datos a partir de 2005. suscitaron declaraciones altisonantes.
Es en este contexto que se ha de reflexionar sobre una gobernanza justa ante la IA y proporcionar un marco ético para abordar estos problemas y pasar a la ética aplicada para ponerla en funcionamiento.
Es importante puntualizar que la gobernanza es un concepto que no se reduce al gobierno de una nación, como conjunto de instituciones, entiéndase el Estado, mediante el cual se ejerce el poder social y se administran los bienes públicos. La gobernanza entra en el enfoque de poder como ejercicio de control virtual y real en la sociedad, lo cual además de incluir al gobierno de una sociedad involucra el cuerpo social, de manera específica se trata de las redes de organizaciones y entidades que conforman la sociedad: IES, empresas, Iglesia, sindicato, clínica y todo lo relacionado a la gobernanza cibernética.
La gobernanza cibernética es control y regulación, implementación de políticas y normativas en el ámbito del ciberespacio, de lo ciberfísico. Este último concepto emerge de la Revolución 4.0 e implica la interrelación de sistemas cibernéticos y sistemas físicos en entornos interconectados. En la gobernanza cibernética, la ciberseguridad es uno de los pilares fundamentales para el gobierno digital y para todos los sujetos cibernéticos que viven navegando por el espacio virtual de la red de redes, Internet. Esto garantiza no solo la seguridad del entorno virtual, sino su estabilidad y la protección de los derechos y privacidad no solo de los sujetos cibernéticos que viven en el cibermundo, sino de los demás seres vivos.
En el cibermundo, la tecnología digital y la IA están transformando de manera disruptiva todo el entramado de vida, de trabajo e interacción social. De manera acelerada, va cambiando la forma en que vivimos. Por lo que se hace imprescindible el diseño e implementación de protocolos éticos en el proceso de creación y desarrollo para bloquear algoritmos que marcan tendencias sobre la base de sesgos que legitimen y vean como algo natural las desigualdades sociales y la discriminación racial. Es de ahí, que se hace imprescindible una gobernanza justa para que la IA no se descontrole.
La sobreabundancia de información sobre la IA ha provocado la infoxicación, sin dejar que la inundación de capitales privados, tanto de las empresas como de los gobiernos han comenzado a invertir en lo que es la IA en el cibermundo, con el objetivo de desarrollar un conjunto de herramientas de aprendizaje automático y todo lo que tiene que ver con el procesamiento de los modelos de lenguaje natural. El descontrol se va dando en la medida que se expande este tipo de tecnología digital automática al margen de una gobernanza imprescindible para su regulación.
Esto va cobrando importancia a medida que las sociedades se adentran en el mundo cibernético, digital e IA, y es cuando surge la necesidad de una gobernanza justa. La gobernanza justa en lo digital e inteligencia artificial debe tomar en cuenta la ciencia ciudadana y a sus ciudadanos, darle participación, que tengan apertura en la esfera de lo público, a la transparencia, inclusión y participación en temas del saber científico y tecnológico de su sociedad.
En el marco de la gobernanza, los gobiernos del cibermundo, deben buscar regulación y control sobre la investigación y la aplicación por parte de las empresas, en lo relacionado a IA, porque no solo ponen en peligro a sus gobiernos digitales, sino a los sujetos que viven bajo su democracia y ciberdemocracia, los ponen a pensar como chatbot, ser autómatas que antes de tomar decisiones y participación en un determinado escenario, consultan a estos dispositivos, sin realmente conocer la estrategia política cibernética (ciberpolítica).
Porque si algo caracteriza a una gobernanza justa en cuanto a lo digital e IA, son los principios éticos normativos y de ética aplicada a favor del ciudadano; que realmente lo beneficie, sin distinción social o cualquier otro tipo de discriminación. Son tareas difíciles, pero necesarias para poder luchar contra la brecha digital y la infopobreza, en estos tiempos cibernéticos y transidos.
Con relación a la Gobernanza en el ámbito de la IA, en el manejo y utilización de los datos la UNESCO expresa que todos los Estados sobre la base del “cumplimiento del derecho internacional, pueden regular los datos generados dentro de sus territorios (…) y adoptar medidas para la regulación efectiva de los datos (…) sobre la base del respeto del derecho a la privacidad, de conformidad con el derecho internacional y otras normas relativas a los derechos humanos”.
Por consiguiente, es necesario construir una estrategia política de gobernanza para los sistemas de IA que garantice la inclusión de todos los sectores sociales en el ciclo de vida de estos sistemas”. Entender que se ha de luchar por garantizar las recomendaciones de la UNESCO, en cuanto a lo que son los “enfoques inclusivos de la gobernanza de la IA, de modo que los beneficios puedan ser compartidos por todos, y para contribuir al desarrollo sostenible” (UNESCO, p. 23).
Apostamos que la Gobernanza justa en la IA no se quede en desiderata mientras que en términos reales vamos por el camino de la policrisis y permacrisis, y en una lucha acelerada por el control de la IA para fines desproporcionado en el ámbito de la ciberguerra.