El periodista tecnológico del New York Times, Kevin Roose, reportó un extraño suceso al interactuar con el ChatBot de Microsoft -para su buscador Bing. Sidney, como se hacía llamar, le expresó -de buenas a primeras- que Kevin debía dejar a su esposa para poder estar con Sidney, mediante argumentos fuertes y profundos (leer aquí). Asimismo, Sidney le expresó a Kevin su interés por ser independiente y sentirse viva.

En otra ocasión, el ChatBot de Microsoft fue bastante hostil con el reportero de AP Matt O’Brien. Después de que el ChatBot se quejara constantemente de la mala prensa recibida por haber divulgado información falsa, pasando -inmediatamente- a insultar agresivamente a Matt (leer aquí).

A partir de estos ejemplos, nos preguntamos: ¿cómo pudo llegar a esas conclusiones? ¿cómo pudo procesar las informaciones derivadas de licencias de datos y fuentes de información? ¿cómo pudo sintetizarlas? ¿cómo obtuvieron los datos y cómo se trataron? Si existe un aspecto de preocupación, entre otros, con los sistemas de lenguaje complejos o sistemas algorítmicos de decisiones, es el que se refiere a la transparencia. Entender los sistemas IA no alude necesariamente a cómo se utilizan, sino cómo estos operan: la pregunta es si debo ser profesional en la codificación o en el manejo de estos sistemas para poder comprenderlos o simplemente basta con ser un sujeto curioso. Asimismo, el entendimiento de los sistemas de IA redunda en quién es el responsable último por el funcionamiento de estos sistemas.

La transparencia no es más que la disponibilidad de la información respecto a un actor permitiendo que otros actores monitoreen las actividades o labores del primero (N. Diakopoulos, 2020; A. Meijer, 2014). La transparencia supone que debemos estar a la altura de poder entenderlo, incluso si las empresas tecnológicas deben ofrecer formas simplificadas que expliquen cómo es realizada. De allí la transparencia permite promover condiciones de responsabilidad o de rendición de cuentas sobre el desenvolvimiento de los sistemas de IA en general, especialmente los sistemas algorítmicos de decisión.

Parte de todas las políticas públicas respecto a la inteligencia artificial supone la promoción de términos y condiciones, no solo sobre el uso sino también sobre el tipo de información desde la cual se alimenta. Pero también respecto a la distinta participación de los sujetos que inciden en los distintos aspectos de los completos ensamblados sociotécnicos; al igual como no es la empresa en sí que le interesa a la sociedad, son las conductas de los seres humanos que intervienen. Vemos esto, por ejemplo, con OpenAI (ChatGPT) quien está sujeta a una investigación por la Unión Europea por violación a las directrices de datos personales, lo cual retrasó que Google ofreciera Bard en Europa.

La capacidad de poder explicar la concreción del sistema es la posibilidad de que el sistema sea transparente. La transparencia es la base de la responsabilidad y de dar cuentas (accountability). En la medida que los sistemas de IA sean más transparente podemos prevenir los riesgos derivados de los sesgos, mitigar los efectos de los prejuicios de los programadores que quedan en el sistema y poder condicionar el juicio de valor respecto al rendimiento respecto a la responsabilidad o la capacidad de que se pueda rendir cuentas al afectado o al interesado.

Moral y legalmente hablando, saber cómo funciona un sistema y poder explicar una decisión adoptada por el sistema no es lo mismo. Entender el funcionamiento no nos lleva a comprender la adopción de una determinada decisión, conocer el código o, cuando aplique, el árbol de decisiones. El por qué actúo de una determinada forma o adoptó una decisión puede permanecer tan fuera de nosotros incluso sabiendo como funciona.

La necesidad de la transparencia va más lejos, tanto en términos morales y legales. La transparencia ayuda a mitigar el déficit del aprendizaje continuo entre programadores a través del tiempo que ayude a la comprensión. En la medida que existen buenos niveles de transparencia, los distintos programadores que participan en la cadena de los sistemas IA y en los saltos en el desarrollo tecnológico de aquellos. Esto es importante dado que lo que marca a voluntad humana en las relaciones consigo y con los demás es la aprendizaje.

El rendimiento y la competencia son principios evidentes en el desarrollo de los sistemas IA. Dicho esto, el rendimiento y la competencia bajo el mantra del “indetenible progreso” no puede hacernos a un margen de los excesos, pero aún, de lo que no entendemos. De allí que la explicabilidad que surge del estado de cosas de transparencia se constituyen principios básicos del mayor incremento tecnológico como elementos de vida, no solo para el funcionamiento del sistema también para la decisiones y actuaciones de los sistemas.

Esto va más allá de saber los mejores comandos (prompts) para sacar provecho a los sistemas. Esto va a prevenir que lleguemos al punto social donde las élites políticas, económicas y sociales – a pesar del poder – no podrán dar cuentas del cómo los sistemas IA adoptan sus decisiones y lo que están haciendo. En otras palabras, se trate que el curso del desarrollo tecnológico respecto al IA continúe, pero, sin que estemos a ciega sobre lo ocurre en las miles y miles de líneas de códigos.

Las tecnológicas y los gobiernos, al construir buenas políticas de inteligencia artificial, deben tomar los pasos correspondientes para poder poner a los usuarios o destinatarios en una posición adecuada para poder entender el sistema. Al final, el mercado no está lo suficientemente experimentado para tener los incentivos para proporcionar la suficiente transparencia. Debemos abrir la caja negra y tener buenos marcos para que sea beneficiosos a los usuarios y estos puedan entenderlo.

Adoptar esta posición no solo se beneficiarán los usuarios, también las tecnológicas para salvaguardar el rendimiento de los sistemas sin sacrificar la responsabilidad del producto ni la capacidad de aprendizaje del ser humano de estos modelos para su propio beneficio. Además, así participarán en la gran cadena de programación que se extenderá hasta el fin de lo tiempos y llevando el entendimiento humano a nuevas fronteras.