Antes de aprender a hablar con las máquinas

Hay días en que la lectura de la prensa produce una sensación de contradicción. De un lado, científicos, educadores y especialistas multiplican las advertencias sobre la inteligencia artificial, algunos llegando a evocar escenarios catastróficos. Otros alertan sobre la pérdida de empleos, la manipulación de la información, los sesgos de los algoritmos o nuestra creciente dependencia de máquinas que comienzan a realizar tareas reservadas a los humanos.

Esto ocurre justo cuando empezamos a medir los efectos sobre niños y adolescentes de veinte años de uso de redes sociales y plataformas digitales que hemos incorporado a nuestras vidas con una sorprendente rapidez. Primero aprendimos a utilizarlas; para mucho después, comenzar reflexionar sobre sus efectos.

Nos podemos preguntar, ¿qué ocurre cuando dejamos a una máquina tomar decisiones que hasta ahora pertenecían al ser humano, incluso la de matar?  A lo largo de la historia, los hombres no han demostrado demasiada conciencia cuando hacen la guerra; basta mirar los conflictos actuales para comprobarlo.

Pero al menos podemos investigar, denunciar, exigir responsabilidad por las decisiones. Una máquina no tiene conciencia, ni sentido del bien y del mal, ni responsabilidad moral. El papa León XIV acaba de recordar que ciertas decisiones pertenecen exclusivamente a la conciencia humana, mientras António Guterres vuelve a advertir sobre el riesgo de una inteligencia artificial que escape a nuestro control.

A la par con estas refexiones, República Dominicana anuncia RD Inteligente, un ambicioso programa para alfabetizar en IA a un millón de dominicanos.

Mi primera reacción fue pensar que había una contradiccion. Sin embargo, me pregunté si estaba yo alfabetizada en inteligencia artificial.

He aprendido a usarla de manera empírica, preguntando, probando, corrigiendo y, con bastante frecuencia, contradiciéndola porque puede equivocarse y se equivoca. Así he descubierto que saber utilizar la inteligencia artificial no significa comprenderla.

No sé realmente qué ocurre detrás de la pantalla. He tenido que aprender por qué una respuesta perfectamente redactada puede ser falsa; por qué la máquina puede inventar una fuente; por qué debo distinguir entre una información que le proporcioné yo misma, una que procede de su entrenamiento y otra que ha sido verificada mediante una búsqueda.

Vista así, la iniciativa dominicana deja de parecer contradictoria. Ningún país puede darse el lujo de permanecer al margen de una transformación tecnológica de esta magnitud. No preparar a una parte de la población podría crear una nueva brecha entre quienes sepan utilizar estas herramientas y quienes queden excluidos de ellas. El problema está en qué entendemos por alfabetizar.

Si se trata de aprender a formular un buena pregunta, escribir rápidamente una carta, resumir un documento o preparar una presentación, estaremos enseñando a manejar una herramienta.

Sin embargo, alfabetizar debería significar también comprender sus límites. Saber que una respuesta convincente no es necesariamente verdadera. Aprender a verificar una fuente, reconocer una imagen manipulada, proteger nuestros datos, identificar posibles sesgos y, sobre todo, conservar la capacidad de interrogar y contradecir a la máquina.

Aquí aparece nuestra grave paradoja. Queremos alfabetizar masivamente en inteligencia artificial mientras nuestro sistema educativo todavía lucha por garantizar aprendizajes fundamentales, entre ellos la comprensión lectora. No son dos desafíos separados.

Frente a una inteligencia artificial poderosa, necesitaremos precisamente lo que ninguna tecnología puede sustituir: comprensión, conocimientos, razonamiento y espíritu crítico. Quien tiene dificultades para comprender un texto tendrá también mayores dificultades para detectar una respuesta incoherente. Quien posee pocos conocimientos sobre un tema estará en peores condiciones para descubrir una información inventada.  Quien no ha aprendido a cuestionar corre el riesgo de atribuir autoridad a lo que aparece impecablemente redactado siendo falso, y eso puede llevar al caos.

La IA puede ser una herramienta de democratización del conocimiento. Pero también puede profundizar desigualdades. No todos llegamos ante ella con la misma formación, la misma capacidad de discernimiento ni las mismas posibilidades de verificar lo que se nos dice.

Quizás la experiencia de las redes sociales debería servirnos de advertencia.  Debemos saber qué clase de alfabetización queremos:  obtener mejores respuestas de una máquina o aprender cuándo creerle, cuándo verificarla, cuándo contradecirla y cuándo prescindir de ella.

La semana pasada escribía que sin comprensión lectora no hay democracia. La inteligencia artificial me obliga a agregar que sin comprensión lectora, tampoco habrá verdadera alfabetización digital: cuanto más capaces sean las máquinas de pensar por nosotros, más tendremos que aprender a pensar por nosotros mismos.