El problema filosófico de la vigilancia
Shoshana Zuboff[1], en su libro: La era del capitalismo de la vigilancia[2], sostiene que la lógica económica dominante del capitalismo contemporáneo ha dado lugar a una nueva forma de organización del poder: el capitalismo de vigilancia.
Ese modelo no se limita a mercantilizar la información personal. Va más lejos: convierte la experiencia humana en materia prima para la producción de mercados predictivos cuyo objetivo es anticipar e influir en la conducta futura de los individuos.
Como afirma la autora, «el capitalismo de vigilancia reclama unilateralmente la experiencia humana como materia prima gratuita… para fabricar productos de predicción» capaces de anticipar decisiones y acciones.
No estamos ante una simple innovación tecnológica. Lo que está en juego es una transformación profunda de las relaciones entre individuo, mercado, sociedad y poder.
Las preguntas que suscita son, antes que nada, filosóficas y políticas.
¿Qué significa actuar libremente en entornos donde nuestras preferencias y decisiones son objeto de predicción constante?
¿Cómo se ejerce la autoridad en una sociedad donde corporaciones privadas acumulan capacidades inéditas para conocer y gestionar aspectos fundamentales de la vida cotidiana?
Estas cuestiones sitúan el problema de la vigilancia en el centro de los debates contemporáneos sobre libertad, autonomía y democracia.
A partir de ellas, Zuboff desarrolla una crítica de gran alcance al capitalismo digital contemporáneo. El presente ensayo examina sus principales aportes, así como algunas de las objeciones que ha suscitado, desde una perspectiva que articula filosofía, sociología y teoría política.
Un nuevo orden de poder económico
La tesis de Zuboff se inscribe en una crítica más amplia al capitalismo contemporáneo.
Mientras el capitalismo industrial obtenía valor mediante la explotación de recursos naturales y fuerza de trabajo, el capitalismo de vigilancia extrae valor de la propia experiencia humana.
Según la autora:
«El capitalismo industrial transformó las materias primas de la naturaleza en mercancías, y el capitalismo de vigilancia se apropia de la esencia misma de la naturaleza humana para inventar una nueva mercancía…, convirtiendo nuestras vidas en datos de comportamiento para que otros puedan controlarnos mejor».
La novedad consiste en que la vida cotidiana se transforma en una fuente permanente de datos susceptibles de ser analizados y comercializados. La conducta humana deja de ser únicamente una expresión de la subjetividad para convertirse en un recurso económico estratégico.
Desde una perspectiva filosófica, esta transformación cuestiona las concepciones clásicas de libertad y autonomía. Si nuestras acciones pueden ser anticipadas y orientadas mediante sistemas algorítmicos que operan fuera de nuestro conocimiento efectivo, la capacidad de autodeterminación pierde parte de su significado práctico.
El sujeto se cree libre, pero actúa dentro de entornos cuidadosamente diseñados para orientar sus decisiones.
Dicho sea de paso, dicho diagnóstico guarda afinidades con las reflexiones de Michel Foucault sobre las tecnologías modernas del poder. Como señalaba el filósofo francés, el control no necesita manifestarse mediante coerción visible para ser eficaz; puede integrarse silenciosamente en las prácticas cotidianas.
La estadounidense desarrolla esa intuición mediante el concepto de «poder instrumentario» (instrumentarian power), una forma de dominación basada en la capacidad de intervenir sobre la conducta humana a través de infraestructuras digitales omnipresentes.
El consentimiento como ficción
Un aspecto central de esa dinámica es la cuestión del consentimiento.
Aunque las empresas tecnológicas sostienen que los usuarios autorizan voluntariamente la recopilación de datos, Zuboff argumenta que dicho consentimiento es, en gran medida, una ficción jurídica.
¿Ficción por qué?
Porque la complejidad de los términos de servicio y la opacidad de los procesos de tratamiento de datos impiden que las personas comprendan plenamente aquello que aceptan.
Desde la filosofía política, se trata de un problema clásico: la legitimidad del consentimiento depende no solo de su formalización jurídica, sino también de las condiciones reales que permiten comprender y evaluar sus implicaciones.
Las consecuencias de este proceso son igualmente sociológicas. Los individuos pierden progresivamente el control sobre la información que generan y sobre los mecanismos mediante los cuales esa información es transformada en instrumentos de predicción.
Se configura así una nueva forma de alienación digital, caracterizada por la creciente distancia entre los sujetos y las infraestructuras que organizan aspectos fundamentales de su experiencia cotidiana.
Del panóptico al «Big Other»
Una de las contribuciones más originales de Zuboff consiste en describir un modelo de vigilancia distinto al panóptico clásico.
En lugar de una estructura centralizada de observación, emerge lo que denomina un «Big Other»: una red distribuida de algoritmos, plataformas e infraestructuras digitales que intervienen silenciosamente en la configuración de la conducta social.
La vigilancia deja de ser un episodio excepcional para convertirse en el clima mismo de la vida digital.
Desde esta perspectiva, el capitalismo contemporáneo debe entenderse no solo como un sistema económico, sino también como un sistema de producción de conocimiento sobre los individuos.
Su poder reside tanto en la extracción de valor económico como en la capacidad de definir qué puede conocerse acerca de las personas y cómo ese conocimiento puede utilizarse para orientar comportamientos futuros.
Lejos de considerar esta situación como una consecuencia inevitable del progreso tecnológico, Zuboff insiste en que se trata de una construcción histórica y política.
El capitalismo de vigilancia no constituye el destino natural de la innovación digital; constituye una forma específica de organizarla al servicio de determinados intereses económicos.
Críticas conceptuales: ¿capitalismo de vigilancia o capitalismo neoliberal?
A pesar de su enorme influencia, la propuesta de Zuboff ha recibido críticas importantes.
Una de las más recurrentes cuestiona hasta qué punto el concepto de capitalismo de vigilancia representa realmente una ruptura teórica respecto de enfoques previos sobre vigilancia y poder.
La socióloga Kirstie Ball recuerda que buena parte de los fenómenos que Zuboff presenta como novedosos ya habían sido estudiados por la investigación especializada sobre vigilancia.
A su juicio, nociones como el entramado de vigilancia (surveillance assemblage) o los enfoques de economía política de la vigilancia bastan para explicar estas dinámicas. No haría falta, por tanto, proclamar el nacimiento de una nueva etapa del capitalismo, sino comprender cómo viejas lógicas de control adquieren hoy instrumentos más sofisticados.
Por su parte, Evgeny Morozov cuestiona la amplitud con que Zuboff emplea el concepto de capitalismo.
Según ese autor, si no se examinan con mayor profundidad las dinámicas históricas de acumulación y explotación propias del sistema capitalista, la expresión «capitalismo de la vigilancia» corre el riesgo de convertirse en una categoría sugerente, pero conceptualmente imprecisa.
Las críticas más radicales avanzan todavía un paso más. Algunos autores sostienen que Zuboff permanece dentro de una tradición liberal que denuncia los excesos del neoliberalismo digital sin interrogar suficientemente las estructuras fundamentales del capitalismo.
A partir de esa perspectiva, el fenómeno descrito no sería una anomalía histórica, sino una manifestación contemporánea de mecanismos de acumulación y control presentes desde mucho antes de la era digital.
Asimismo, diversos críticos recuerdan que la vigilancia estatal y la recopilación sistemática de información personal preceden ampliamente a las plataformas tecnológicas actuales.
La novedad histórica del capitalismo de vigilancia residiría entonces menos en una ruptura absoluta con el pasado que en la intensificación, ampliación y sofisticación de tendencias ya existentes.
Tales objeciones no invalidan la relevancia del análisis de Zuboff. Más bien invitan a situarlo dentro de una historia más extensa de las relaciones entre capitalismo, tecnología y poder.
La cuestión no consiste únicamente en determinar qué hay de nuevo en la vigilancia digital, sino también en reconocer qué elementos de ella prolongan procesos históricos de larga duración.
Democracia y derechos en la era digital
Más allá de la privacidad individual, Zuboff sostiene que el capitalismo de vigilancia plantea desafíos fundamentales para la democracia.
La capacidad de anticipar e influir en comportamientos individuales y colectivos permite a actores privados intervenir en la formación de preferencias y opiniones públicas, alterando las condiciones sobre las que descansa la deliberación democrática.
La preocupación remite a debates clásicos sobre autonomía colectiva y manipulación de la opinión pública.
Cuando grandes corporaciones concentran capacidades extraordinarias para recopilar información, procesarla y utilizarla con fines predictivos, la soberanía democrática puede verse erosionada por mecanismos de mercado que operan con escasa transparencia y limitada rendición de cuentas.
La cuestión adquiere una relevancia aún mayor debido a las profundas asimetrías de poder existentes entre individuos, Estados y corporaciones tecnológicas.
En muchos casos, esas empresas poseen recursos informacionales y capacidades analíticas que superan a las de numerosas instituciones públicas. Surge entonces una pregunta decisiva: ¿quién vigila a quienes poseen la capacidad de vigilarnos?
Con dicho propósito en la mira, aunque Zuboff insiste en la necesidad de recuperar el control ciudadano sobre el entorno digital, incluso sus simpatizantes reconocen que sus propuestas políticas permanecen relativamente generales.
El diagnóstico resulta sólido y penetrante; las estrategias concretas para transformar las estructuras de poder aparecen, en cambio, menos desarrolladas.
Desde la perspectiva de la sociología política, una respuesta efectiva requeriría no solo leyes de protección de datos, sino también nuevas formas institucionales capaces de democratizar las infraestructuras digitales.
Entre ellas destacan la transparencia algorítmica; el derecho de acceso, corrección y control de los datos personales; mecanismos democráticos de supervisión sobre infraestructuras digitales estratégicas; y nuevas formas de organización colectiva capaces de contrarrestar la concentración de poder tecnológico.
Por consiguiente, el desafío persiste: construir una política tecnológica capaz de reconocer y limitar las asimetrías de poder que caracterizan al ecosistema digital contemporáneo.
Vigilancia, libertad y futuro
La era del capitalismo de la vigilancia constituye una de las contribuciones más influyentes para comprender las transformaciones del poder en la sociedad digital.
Su principal aporte consiste en mostrar que la extracción masiva de datos no afecta únicamente a la privacidad individual. Afecta también las condiciones que hacen posible la autonomía, la participación política y la vida democrática.
La obra presenta límites que han sido señalados por numerosos críticos. Entre ellos, la necesidad de situar el fenómeno dentro de una historia más amplia del capitalismo y la vigilancia, así como la conveniencia de desarrollar propuestas políticas más precisas para enfrentar los desafíos identificados.
Sin embargo, estas objeciones no disminuyen la importancia de una intuición fundamental: la disputa por los datos es, en última instancia, una disputa por las condiciones bajo las cuales las personas pueden actuar, decidir y participar en la vida colectiva.
Más allá de sus límites, el diagnóstico de Zuboff plantea una pregunta ineludible: ¿quién gobierna el espacio digital en el que transcurre una parte creciente de nuestras vidas?
La respuesta no depende únicamente de innovaciones tecnológicas ni de intereses económicos. Depende, sobre todo, de decisiones políticas acerca del poder, los derechos y la democracia.
Si la infraestructura digital organiza cada vez más nuestra experiencia cotidiana, su control no puede quedar exclusivamente en manos de quienes obtienen beneficios de ella.
Porque allí donde se decide qué sabemos, qué vemos y qué deseamos, también se disputa la capacidad de las personas para determinar por sí mismas quiénes son y quiénes desean llegar a ser.
[1] La autora, nació en 1951, en la ciudad de Nueva York y es profesora emérita de Harvard Business School.
[2] Zuboff, Shoshana. (2019). The Age of Surveillance: The Fight for a Human Future at the New Frontier of Power. N.Y. fue publicado en Estados Unidos por PublicAffairs en 2019.
Compartir esta nota