A través de las redes sociales, un ciudadano se informa sobre el delito cometido por un migrante. Enojado, toma este ejemplo como «prueba irrefutable» del peligro que representan los extranjeros. Su vecino, a través de los mismos medios, recibe la información de cómo un grupo de migrantes forma parte de un proyecto social que lleva comida a zonas empobrecidas del país. El vecino toma esta información como «evidencia de la generosidad característica de los extranjeros».
Ambos han tomado una información aislada para confirmar sus creencias. Que un extranjero haya cometido un delito no dice nada sobre un supuesto peligro que encarna. Ciudadanos de todas las nacionalidades, independientemente de su género, etnia, clase o estatus migratorio, cometen delitos. Por igual, el acto bondadoso de un extranjero no convierte en benignos a todos. En ambos casos, la información ha sido procesada obviando otras informaciones contrarias, pero las mismas «han sido seleccionadas» para confirmar las creencias previas.
Cuando señalo que la información ha sido seleccionada, no significa que estoy sugiriendo un acto intencional. No se trata de que los individuos de nuestro ejemplo, de modo premeditado, hayan escogido la información para promover sus puntos de vista. Simplemente, es una manera habitual de procesamiento a la que estamos expuestos por la naturaleza y el funcionamiento de nuestro cerebro, en conjunción con la educación y los prejuicios aprendidos por la cultura. Interactuamos con el mundo incurriendo en sesgos cognitivos.
Desde el clásico enfoque de Daniel Kahneman y Amos Tversky, los sesgos cognitivos acontecen cuando nuestro cerebro procesa rápidamente la información e incurre en errores de razonamiento o distorsiones de los datos. Pensar rápido es parte de nuestra evolución biológica; sin esta destreza nuestra especie no habría sobrevivido ante situaciones de peligro inminente. No obstante, la fuente de nuestra sobrevivencia constituye también el origen de nuestro error. Así que, ante la imposibilidad de destruir el origen de nuestros sesgos, debemos formarnos de modo colectivo en el pensamiento racional y crítico. Es el trabajo comunitario del diálogo y la evaluación intersubjetiva lo que permite trascender nuestras limitaciones individuales. Karl Popper denominó a este proceso la «cooperación amistoso-hostil»: actitud amistosa para el trabajo conjunto, pero hostil hacia nuestros prejuicios o ideas preconcebidas.
Puesto que los seres humanos son los responsables de la creación y el funcionamiento de las tecnologías, sus sesgos se replican en el uso de las mismas. Por ejemplo, como indican diversos estudios, entre ellos el llevado a cabo por la UNESCO (2024), la inteligencia artificial (IA) replica prejuicios negativos de corte racial, étnico y de género.
Por ello, se afirma que la tecnología no es neutral. «Objetiviza» nuestros prejuicios, operando sobre la base de un sistema que nos genera la percepción de impersonalidad. Por esta razón es importante la explicitación del sistema algorítmico que sostiene la IA, así como la regulación de los procesos de generación y difusión de sus contenidos. Está en juego el futuro mismo de una sociedad capacitada para la toma de decisiones con la información y el conocimiento necesarios para ello.
Compartir esta nota