Recientemente me referí a la importancia de concebirnos como entes activos en la evolución de la producción de la inteligencia, capacidad que ha pasado de ser considerada como principalmente académica hasta incluir otras manifestaciones. La inteligencia también paso de ser medida, promovida y educada en humanos a ser desarrollada a través de programas de computación y, en los últimos años, a incluir la mejora de incluir la capacidad de aprendizaje en las mismas máquinas.
Estas últimas dos vertientes se basan en la utilización de algoritmos, término que en República Dominicana tuvo mucha visibilidad en los últimos veinte meses, pero que data del siglo IX y fue introducido en occidente a través de la presencia árabe en la península ibérica.
Los algoritmos que estudiamos en la escuela se referían a la posibilidad de hacer cálculos automáticamente (para determinar operaciones tan pedestres, pero tan esenciales, como la cantidad de tela que iba a ser vendida o de espacio que sería necesario para albergar las cosechas). Mil años después, Ada Byron, hija del famoso poeta inglés Lord Byron, y quien eventualmente fue famosa con el apellido de su marido, Ada Lovelace, fue pionera en postular que las máquinas de cálculo que se empezaba a producir en la época podían integrar la utilización de cálculos automáticos. Este razonamiento fue la base de la programación en informática (por eso se la considera precursora en las ciencias de la computación) y luego fue la base para lograr que las mismas computadoras interpreten datos en apariencia disímiles o que son tan numerosos que humanamente no sería posible asumirlos.
Porque los algoritmos son matemáticos, sin escala de valores, sin prejuicios ni presupuestos, están supuestos a ser objetivos. Pero, como son diseñados por humanos, pueden contener los prejuicios de quienes los modelen, dándole mayor valor a ciertas características sobre otras. Peor aún, aunque tengan un diseño “sin prejuicio”, las bases de datos que analicen pueden estar alimentadas de manera desigual, lo que los convierte en más eficientes para analizar ciertas características y más pobres para otras.
El fenómeno de perpetuar la discriminación en la elaboración de algoritmos computacionales fue identificado por Joy Buolamwini. Ella se define a sí misma como “poeta de códigos”, y fue la primera persona en demostrar y alertar sobre los sesgos contenidos en algunos algoritmos utilizados por compañías tan preocupadas por la objetividad y la eficiencia como Microsoft, IBM y Amazon. La manera en que ella identificó estos prejuicios latentes fue recogida en el documental “Prejuicio cifrado” (en inglés Coded Bias), disponible en Netflix.
Estas dos mujeres se concibieron a sí mismas como creadoras de conocimiento, no solo como sus utilizadoras. Podría parecer que esto era sencillo o fácil en los tiempos de elaboración de las primeras máquinas que calculaban, cuando Ada Lovelace postuló el uso de algoritmos en máquinas sencillas e inició la computación, pero un siglo después, con máquinas mucho más potentes y en consecuencia más intimidantes, Joy Buolamwini también fue capaz de identificar posibilidades de mejora en la situación que tenía por delante. En esta tercera década del slglo XXI seguimos llamados a ver oportunidades de mejora. Como dijo Buolamwini recientemente: “La conciencia es buena, pero luego esa conciencia debe conducir a la acción. Esta es la fase en la que estamos”.