Uno de los retos fundamentales de nuestro tiempo son las implicaciones éticas de la inteligencia artificial (IA), entre ellas, la capacidad que tiene de profundizar los sesgos y prejuicios identitarios negativos que operan en las prácticas humanas cotidianas.
Hace dos décadas, Miranda Fricker acuñó el término injusticia epistémica para referirse a las distintas modalidades de degradación de la persona como sujeto de conocimiento. Entre esas modalidades distinguió la injusticia testimonial, que se produce cuando existe un déficit de credibilidad del hablante producto de los prejuicios negativos identitarios del oyente, y la injusticia hermenéutica, generada en la definición clásica de Fricker por la carencia de recursos interpretativos de una época para comprender los significados de las experiencias sociales.
Hoy día, la IA permite acentuar estas prácticas. La injusticia testimonial se convierte en injusticia testimonial digital cuando los sistemas algorítmicos replican y amplifican los déficits de credibilidad contra determinados colectivos a los que se les confiere menos autoridad epistémica.
Por su parte, la injusticia hermenéutica se transmuta en injusticia hermenéutica digital no tanto porque se produzca una carencia de los recursos hermenéuticos en nuestra época, sino porque existen otras expresiones de la injusticia hermenéutica no abordadas por Fricker como el silenciamiento hermenéutico o la marginación hermenéutica, alimentadas por los sistemas algorítmicos.
Así, la marginación hermenéutica (digital) se produce por una subrepresentación de determinados colectivos en la alimentación de la base de datos y en la programación de la IA, mientras que el silenciamiento hermenéutico (digital) se produce por la resistencia a escuchar las voces de los colectivos marginales.
Mientras el primer fenómeno tiene un carácter más inconsciente o inintencional, el segundo tiene un carácter más deliberado, ya sea porque existe una colonización consciente de los espacios de poder o porque existe una ignorancia deliberada (willful ignorance), un estado de conformidad en la ignorancia con respecto a determinadas evidencias por el beneficio que dicha ignorancia proporciona al desconocedor.
También, pueden producirse situaciones de injusticia hermenéutica digital relacionadas con problemas de comunicación y de comprensión en torno a los significados de experiencias que determinados colectivos deben conocer, pero cuya comprensión se obnubila debido a la existencia de lo que denomino inconmensurabilidad digital, es decir, problemas de comunicación relacionados con el reforzamiento noticioso de las cámaras de eco y el aislamiento epistémico de los filtros de burbuja y que generan incompatibilidad de datos en la agenda de problemas y de criterios para resolverlos.
La atenuación de estos problemas pasa por una mayor inclusión de los colectivos subrepresentados en el diseño de los programas de IA y en las bases de datos, así como procesos de regulación que impliquen el seguimiento a los criterios de discriminación identitaria negativa, pero no debemos olvidar que hay dos graves problemas que subyacen a las situaciones descritas: uno de carácter económico, pues existe un modelo comercial que se nutre de la infraestructura que alimenta la injusticia epistémica digital, y el otro de carácter político, porque emergen en todo el planeta fuerzas autoritarias que se sustentan en su mantenimiento.
[1]Ideas externadas para el panel «Los retos éticos de la filosofía y la tecnología», en el marco del seminario Filosofía de la ciencia: Ética y futuro humano, Escuela de Filosofía, Universidad Autónoma de Santo Domingo.
Compartir esta nota