IA, biopoder y democracia (1 de 2)

La pregunta sobre si las máquinas pueden llegar a pensar es muy interesante y muy de moda en estos días. Pero otra pregunta, igual de interesante es si los sistemas sociales tienen inteligencia y qué pasa a estos cuando la IA se despliega.

Los sistemas sociales (el derecho, la ciencia, la política, la medicina, los medios de comunicación) operan produciendo comunicaciones según sus propios códigos: verdad o falsedad en la ciencia, lícito o ilícito en el derecho, poder o no poder en la política. Esa clausura operativa no significa que los sistemas estén aislados del mundo; significa que cada uno procesa las perturbaciones del entorno a su manera, traduciéndolas al lenguaje de sus propias operaciones. Lo que hace posible que distintos sistemas se influyan mutuamente sin perder esa autonomía son los acoplamientos estructurales: mecanismos que permiten que la operación de un sistema se convierta en entorno relevante para otro.

El lenguaje es el acoplamiento estructural por excelencia entre sistemas sociales y sistemas psíquicos (las personas, con sus pensamientos, afectos y marcos de interpretación). A través del lenguaje, lo que ocurre en la conciencia individual puede convertirse en comunicación social, y lo que ocurre en los sistemas sociales puede orientar, perturbar o reorganizar las conciencias individuales. No hay sistema social sin sistemas psíquicos que lo sostengan, aunque los sistemas sociales operen con una lógica que ningún individuo controla.

La inteligencia general es social

Al analizar desde este enfoque cómo surge la racionalidad, podemos afirmar que los sistemas sociales funcionan como inteligencias generales. Una teoría rigurosa del conocimiento, aplicada con consistencia, describe la creación de conocimiento como la organización social de la experiencia: una forma de inteligencia distribuida y emergente, no localizada en ningún individuo ni en ninguna institución, sino producto del trabajo socialmente organizado a nivel de los denominados sistemas funcionales. Esa inteligencia no emerge de ningún sustrato previo, sino de las relaciones sociales, incluyendo entre personas, instituciones, dispositivos, ideas, tecnologías, geografías, edificios, etc.

Lo que define a esa inteligencia social no es solo que procesa información. Es que es reflexiva: a medida que los sistemas funcionales se vuelven conscientes de sus propios mecanismos de producción de conocimiento, pueden organizar esa producción de manera más deliberada. La teoría, al describir al sistema desde dentro es ya un momento de su autoorganización. Esto tiene consecuencias políticas, a saber: i) mejora los dispositivos deliberativos y las capacidades críticas); ii) condiciona la capacidad social de adaptación, iii) mejora los propios procesos de producción de conocimiento; y iv) amplía la libertad del sistema social.

Desde este marco, la pregunta sobre la inteligencia artificial general se reformula. La AGI no surge de escalar indefinidamente la potencia de sistemas informáticos individuales hasta que algún indicador confirme que superan al ser humano en alguna prueba de referencia. Emerge de la socialización de sistemas de IA más acotados dentro de la inteligencia general bio-psico-social que ya existe. No es una creación separada ni un salto desde la nada: es el siguiente nivel emergente de una inteligencia social que ya opera y que se reconfigura cuando incorpora nuevas herramientas.

La tecnología como mecanismo de acoplamiento

La cuestión epistemológicamente interesante, entonces, no es si la máquina conoce. Es qué le ocurre a la capacidad de los sistemas sociales funcionales para producir conocimiento cuando la IA se integra en esos procesos sociales.

Por un lado, esa integración produce mejoras organizativas reales: por ejemplo, aceleración del aprendizaje científico en medicina y biología, diagnósticos más tempranos y precisos de enfermedades, automatización de tareas peligrosas o degradantes, procesamiento de volúmenes de datos que ninguna institución humana podría manejar sola, entre muchas otras. Son cambios que están ocurriendo, con desigualdad de acceso, en los sistemas de investigación y de salud más avanzados.

Por otro lado, las plataformas digitales y la IA no son simplemente herramientas de comunicación. Son tecnologías de acoplamiento estructural: mecanismos que median, filtran y orientan las operaciones comunicativas entre sistemas funcionales y entre sistemas funcionales y personas. Su novedad no es técnica sino organizativa: por primera vez en la historia, una infraestructura privada administra a escala masiva los puntos de contacto entre sistemas sociales y sistemas psíquicos.

Lo que los algoritmos de recomendación hacen no es simplemente distribuir contenido. Fijan la atención, amplifican ciertos afectos, refuerzan sesgos y consolidan marcos de interpretación. Operan sobre los sistemas psíquicos (sobre la forma en que las personas piensan, sienten y perciben) y a través de ellos perturban las operaciones de los sistemas funcionales. La política recibe comunicaciones preseleccionadas por lógicas de maximización del engagement. La ciencia compite por atención en un entorno donde la plausibilidad emocional supera con frecuencia a la evidencia. El derecho intenta regular fenómenos cuya velocidad de mutación excede la capacidad de cualquier proceso legislativo.

La IA profundiza este proceso porque no solo distribuye comunicaciones existentes: las genera. Un sistema capaz de producir contenido verosímil a escala industrial no introduce ruido externo en los sistemas funcionales; introduce perturbaciones que adoptan la forma interna de cada sistema. El contenido generado por IA puede parecer evidencia científica, argumentación jurídica, noticia verificada. Por eso perturba los sistemas desde adentro de su propia lógica, y por eso los mecanismos normales de filtro resultan insuficientes.

Veridicción y biopolítica

Aquí el concepto foucaultiano de veridicción se vuelve analíticamente necesario. La veridicción no describe simplemente quién dice la verdad: describe los regímenes sociales que definen quién puede decir la verdad, bajo qué condiciones y con qué pruebas. Es la forma en que el código verdad/falsedad se estabiliza socialmente para el sistema científico y para el sistema de medios. Cuando esos regímenes se desestabilizan, no es tal o cual hecho lo que se pierde: es la infraestructura epistémica sobre la que se apoya cualquier deliberación colectiva.

La biopolítica, en el sentido foucaultiano, permite describir algo que el análisis de sistemas deja en la periferia: cómo las plataformas digitales y la IA operan sobre los sistemas psíquicos administrando atención, afecto, umbral de indignación y marcos de interpretación. No es metáfora. Es la descripción precisa de lo que hacen los algoritmos de recomendación: maximizan métricas de engagement interviniendo sobre las operaciones internas de la conciencia, y a través de esa intervención reorientan la comunicación que los sistemas funcionales reciben de su entorno. Gestionan la vida psíquica de las poblaciones con una eficacia sin precedentes históricos.

La economía política de la integración

Las decisiones sobre qué sistemas de IA se desarrollan, a qué velocidad, con qué arquitecturas de atención y con qué lógicas de recomendación las toman, en su aplastante mayoría, empresas privadas controladas por individuos con intereses e ideologías muy concretas, sin supervisión democrática comparable a la que se ejerce sobre otros sistemas que inciden en la vida colectiva. No existe para la IA nada equivalente a lo que existe para los medicamentos, los alimentos o los sistemas financieros, aunque las consecuencias de sus decisiones de diseño sean ya, en muchos contextos, de mayor alcance.

Ningún actor puede controlar completamente las consecuencias sistémicas de esa integración. La contaminación epistémica, la desinformación y el contenido basura son simultáneamente consecuencias no intencionadas a nivel sistémico y resultado de estrategias deliberadas a nivel de actor. Ambas descripciones son verdaderas. Reducir el problema a la mala intención de corporaciones específicas es insuficiente; negar que hay actores que se benefician de la desorganización epistémica es ciego.

El debate público sigue organizado alrededor de preguntas filosófico-técnicas que, aunque legítimas, desvían la atención de lo que ocurre mientras las sostenemos: la captura privada de las infraestructuras de acoplamiento entre sistemas funcionales y sistemas psíquicos, sin contrapesos democráticos equivalentes. Pensar la IA como infraestructura pública (sometida a las mismas exigencias de transparencia y control democrático que aplicamos a otras infraestructuras) no es una propuesta ingenua. Es la consecuencia lógica de reconocer lo que esas tecnologías realmente hacen. En la próxima entrega aterrizo estas reflexiones al caso de un país como el nuestro.