ZUBOFF, Shoshana: La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder, trad. cast. Albino Santos, Paidós, Barcelona, 2020, 910p.

Desde hace tiempo, he sentido una especial fascinación por los espías. Antaño, esa seducción se alimentó de la literatura, sobre todo de los libros de John Le Carré, como El espía que surgió del frío o La casa Rusia. Después, me conquistó la epopeya de un científico comisionado por el gobierno británico a través de su presidente, W. Churchill, para descifrar la máquina de encriptar alemana Enigma y socavar así el dominio nazi en la segunda guerra mundial. Me refiero a Alan Turing que, aunque no fue estrictamente hablando un espía, contribuyó a que los agentes alemanes perdiesen efectividad en la transmisión de mensajes secretos. Su talento posibilitó el descifrado de Enigma con una intuición extraordinaria: a una máquina tan compleja, que ofrecía (con 8 rotores) 10²⁸ combinaciones posibles, sólo podía derrotarla otra máquina; a saber, la máquina de su autoría o máquina de Turing, un ingenio de papel que serviría de fundamento para la construcción del primer ordenador de propósito dedicado (precisamente, a la decodificación de Enigma) denominado Bombe. Se estima que su inventó ahorró más de 200.000 víctimas en la Segunda Guerra Mundial.

El escenario de Turing muestra el contexto en el que se desarrollaba el espionaje de antaño: operaba en misiones comerciales o bélicas de confrontación entre países. Se observaba a los enemigos para tener ventaja estratégica en temas sensibles para la industria, la política o la guerra. Los alemanes espiaban a los británicos para destrozar su flota en el Atlántico Norte cargada de provisiones hacia la isla y los británicos espiaban a los alemanes hundiendo el ferry SF Hydro cargado de agua pesada -necesaria para la fabricación de la bomba atómica- en dirección hacia Alemania. Excepto en casos de contraespionaje, no se vigilaba a los compatriotas.

Hace pocos años visité en Berlín el museo de los espías, donde pude ver cámaras de fotografía diminutas o armas camufladas en bolígrafos, además de una máquina Enigma de 6 rotores (máquina que, con 3 rotores, ya había visto en el museo militar de A Coruña). Todos esos artefactos constituían la historia o prehistoria del espionaje, aunque el museo incluía también una sala sobre la vigilancia moderna. Se trataba de una pequeña estancia, en la que más que mostrar, se sugería o indicaba qué cosas podrían estar involucradas en el espionaje contemporáneo: recuerdo que casi todo hacia una vaga referencia a Internet. Pensé entonces que las armas de espionaje actuales tendrían que ver con programas que, en un mundo interconectado en red, usarían los informáticos de un país para intervenir, de modo inadvertido o silente, en centros críticos de otro. No imaginaba que, además de para lo anterior, se usarían también para espiar a los propios conciudadanos y que a eso se dedicaban no sólo los gobiernos, apetentes por tener información del político rival, sino también empresas privadas, para comerciar con el excedente de datos extraídos de nuestra cada vez más extendida y obligada actividad en la red. Es decir, el espionaje había migrado del patriotismo al mercado, de la victoria sobre el estado enemigo al control de los conciudadanos y Shoshana Zuboff lo muestra de manera magistral en su excelente obra.

Zuboff es profesora emérita de la Harvard Business School y ha dedicado buena parte de su vida académica al examen del capitalismo en el marco de la tecnología de la información, la sociedad digital y el cambio global. En un libro anterior a este objeto de comentario¹, mostraba su confianza en que lo digital traería una sociedad más solidaria y democrática, pues la red haría más eficiente el trabajo y más asequibles los bienes, sustituyendo el capitalismo centralizado por el distribuido y a las grandes empresas manufactureras por el comercio justo entre personas. Desgraciadamente, reconoce que no fue así y que ello le condujo a un cambio de opinión que expone en el libro que reseñamos.

En él anuncia el fin de nuestro mundo personal y privado y la poca o nula conciencia que tenemos de ello. Describe a las empresas de Silicon Valley, nominalmente Google, Facebook (ahora Meta) y Amazon, como una bestia invisible y aterradora, -a imagen del monstruo del Dr. Frankenstein-, que extrae nuestro excedente conductual en la red y lo almacena para usarlo cuando mejor rédito le pueda reportar. Su tesis principal es que, si el capitalismo industrial agotó el mundo natural hasta dejarlo exhausto, como revelan el cambio climático, la contaminación de las tierras o la desertización, el capitalismo de la vigilancia consume nuestra vida hasta desposeerla de aquello más singular e íntimo: la privacidad, la intimidad. Desarrolla esta tesis proporcionando definiciones, creando conceptos y mostrando relaciones; es decir, proponiendo una teoría acerca de un sistema económico y de gobierno novedoso al que sonoramente denomina ‘capitalismo de la vigilancia’, y que se caracteriza por asentar su negocio en la confianza traicionada de que la conducta digital de las personas se desarrolla de modo privado y no es masivamente observada y monitorizada. A diferencia del capitalismo tradicional, caracterizado por la extracción mecánica e intensiva de los recursos naturales, el capitalismo de la vigilancia traduce nuestra actividad en la red a datos, que almacena de modo estable y definitivo y que vende al mejor postor. Con esos datos se diseñan perfiles de consumidores, que se ofertan a empresas para que vendan más y mejor sus productos, o a gobiernos para que influencien voluntades individuales e indecisas, aunque críticas, para ganar elecciones. Zuboff denuncia que un electrodoméstico aparentemente inocuo, como un modelo reciente de Roomba, la aspiradora de i-Robot, es usado para espiar nuestra cotidianeidad y comerciar con ella: además de ayudarnos en la limpieza de la casa, tarea que conocemos, la nueva aspiradora detecta su superficie, función oculta que convierte en planos y que vende a empresas que puedan tener intereses comerciales en ello. Otra muestra de vulnerabilidad a los dispositivos electrónicos son los asistentes de voz (Alexia, Google Assistant, Cortana, etc.), que además de proporcionarnos noticias o música, contienen micrófonos ocultos que graban nuestras conversaciones sin permiso para dirigirnos publicidad personalizada.

T. Berners-Lee creó internet con el objetivo de fomentar la cooperación y distribución del saber en el mundo y avisó que “sería una equivocación suponer que el Web de Confianza es importante sobre todo para el comercio electrónico, como si la seguridad importase sólo en lo que al dinero se refiere”². Sin embargo, su desarrollo condujo, a través de buscadores y redes sociales, al ‘vientre de la bestia’. Internet nos conectó con todo, pero nos desconectó de nosotros mismos. En su esfuerzo por explicar y recuperar aquellos que debieran ser nuestros inalienables e irrenunciables derechos de privacidad, Zuboff plantea una y otra vez en su libro las siguientes preguntas: “¿Quién sabe? ¿Quién decide? ¿Quién decide quién decide?” (p. 181), a las que intenta dar respuesta en su monumental e interesantísima obra.

El texto está dividido en tres secciones y cada una de ellas consta de varios capítulos. Se inicia con una Introducción, en la que la propia autora presenta el libro, y una conclusión, donde hace balance de lo tratado y llama a la rebelión, a la lucha para derrotar al monstruo.

La primera sección del libro trata sobre el origen del capitalismo de la vigilancia y expone su etapa inicial, mostrando el caldo de cultivo que propició su aparición, las condiciones que alimentaron nuestra conversión digital y que se vieron sumamente favorecidas por el efecto llamada del ‘todo gratis’. Como indica J. Lanier, internet está lleno de servidores sirena -en alusión al mito de Ulises- que prestan servicios de balde a cambio de datos que revelan nuestro comportamiento en la Red³. La gratuidad de los servicios fue el gancho para acostumbrarnos primero y, como si de una adicción se tratase, engancharnos después, a un estilo de vida basado en el consumo de todo tipo de bienes a distancia, en la apropiación instantánea y fácil del deseo; en fin, en un estilo de vida donde todo está a uno o, como mucho, unos pocos clics. Eso lo saben empresas como Google o Facebook, que usan colores, texturas o botones como ‘me gusta’, diseñados para fidelizar al usuario. La respuesta a quién sabe no sólo lo que hacen, sino cómo deben hacerlo, es fácil: las así denominadas empresas tecnológicas.

Las adicciones provocan la anulación de la voluntad y, con ello, la renuncia a la exigencia de justicia. El uso de las redes sociales ocasiona, p. ej., la abdicación de principios que se consideran indiscutibles en ámbitos reales, pero absolutamente transigibles en escenarios virtuales, como el derecho al olvido, que se define como aquel que puede ejercer el titular de un dato a borrar, bloquear o suprimir información personal si cree que afecta a su intimidad, honor o reputación. Esa norma ha sido violada en multitud de ocasiones por las tecnológicas, que carecían de política de protección de datos. Un caso, bien conocido, tuvo como actor protagonista a un ciudadano de nuestro país que en 2010 interpuso una demanda contra Google ante la Agencia Europea de Protección de Datos porque, cuando introducía su nombre en la caja de búsqueda, la compañía ofrecía como resultados dos páginas del periódico La Vanguardia que mostraban un anuncio donde figuraba como copropietario de un inmueble subastado por embargo debido a deudas con la Seguridad Social, deudas que el interesado ya había satisfecho hacía tiempo⁴. La noticia, por tanto, carecía ya de cualquier relevancia, pero podía causarle un perjuicio al procurar un trabajo o pedir un crédito. La sentencia obligó a Google a retirar los enlaces y el interesado declaró estar satisfecho porque una compañía no puede ir “contra el honor, la dignidad, la reputación o la injerencia en la vida privada de una persona”⁵. A la sentencia reaccionó E. Schmidt, el director general de la compañía tecnológica, afirmando que solo debe temer el que ha hecho algo mal. Como brillantemente le replicó E. Snowden, “decir que no te importa la privacidad porque no tienes nada que esconder no es diferente a afirmar que no te importa la libertad de expresión porque no tienes nada que decir, o que no te importa la libertad de prensa porque no te gusta leer, o que no te importa la libertad de religión porque no crees en Dios.”⁶

Que se realizan prácticas de intromisión personal lo saben las empresas que tienen en nuestra conducta digital y en los datos que extraen de ella la materia prima de su negocio y también los estados y sus agencias de inteligencia, que los usan para controlarnos. Las empresas nos espían para ganar dinero y con ello, influencia; los gobiernos para seguir en el poder o alcanzarlo. Después del ataque no previsto ni detectado del 11-S, las agencias de inteligencia norteamericanas vieron en la extracción y depósito masivo de datos (en el ‘expediente completo’, como dice Snowden) la posibilidad de localizar terroristas o detectar armas y, los políticos, de encumbrar a candidatos propagando bulos para influenciar voluntades. El negocio de los datos se convirtió entonces en algo participado por las empresas privadas y los organismos sociales o institucionales, abriéndose, p. ej., en el gobierno de Obama puertas giratorias entre la Casa Blanca y Google para más de 50 personas. Se configura así el 'negocio de la realidad’, el diseño de algoritmos predictivos que determinan con certeza casi absoluta nuestras conductas futuras, propiciando una rendición incondicional del ciudadano. Ahora son las empresas las que deciden sobre tus derechos. Con la extracción ilimitada de la actividad y comportamiento humano, compañías como Cambridge Analytica hizo ingeniería social con los datos que le proporcionó Facebook para diseñar perfiles psicométricos precisos destinados a psyops u operaciones psicológicas focalizadas; es decir, recomendaciones individualizadas de publicidad destinadas a influir en decisiones, sean políticas, como la elección de Trump o el Brexit, o comerciales, para hacer deseable tal o cual producto. Las tecnológicas pretenden decidir sobre nuestra vida. El poder de esas empresas y su convicción de que han logrado penetrar en el arcano de la individualidad, del yo más íntimo, queda patente en la siguiente transcripción que B. Kaiser pone en boca de un arrogante analista de Cambridge Analytica encargado de confeccionar modelos psicológicos: “con 68 ‘me gusta’ (likes) de Facebook podía predecir el color de la piel, la orientación sexual, la afiliación a un partido político, el consumo de drogas y alcohol e incluso si una persona procedía de un hogar intacto o de unos padres divorciados. 70 ‘me gusta’ eran suficientes para superar lo que los amigos de una persona sabían sobre ella; 150 y entonces sabía lo mismo que sabían sus padres. 300 y sabía lo mismo que su pareja. Más ‘me gusta’ y podría incluso superar lo que una persona sabía sobre si misma”⁷.

Compañías como Cambridge Analytica construyeron, a partir de nuestros datos, perfiles bastante precisos de nuestra psique para venderlos a instituciones que tienen la intención de influir o alterar nuestra conducta, individual o colectiva. Para ello usan técnicas conductistas, donde la personalidad queda subsumida en datos de comportamiento (número de clics para acceder a una página, tiempo de permanencia en ella, número de likes, etc.), con los que predecir nuestra actividad futura. Han tenido que pasar bastantes años para que el despojo al que el capitalismo tradicional ha sometido a la naturaleza se haga sentir en términos de los efectos del cambio climático, como el deshielo o la desertización. Del despojo humano, sin embargo, no habido noticia hasta hace muy poco. Antiguamente, cualquier técnica de modificación masiva de la conducta era considerada una agresión intolerable a la autonomía humana y a la sociedad democrática. Hoy eso se produce todos los días a todas horas, y se hace ante nuestra impasividad e incluso, en algunos casos, complacencia. El espionaje forma parte de nuestra vida y no nos rebelamos contra él; es más, algunos lo han adoptado como símbolo de modernidad, de progreso.

Por último, en la tercera sección, Zuboff examina el auge de la razón instrumental, donde los medios legitiman a los fines. Como dice J. Weizenbaum, uno de los pioneros de la IA, la razón instrumental puede tomar decisiones, pero no hacer elecciones; es lo que diferencia a la máquina del ser humano. “Que tantas personas pregunten tan a menudo qué deben hacer es señal de que el orden del ser y del hacer se ha invertido. Las personas no deben preguntar qué hacer, sino que deben ser. Las que saben lo segundo no tienen qué preguntar por lo primero”⁸. La razón instrumental reduce el estudio de la mente a la psicometría, a números que midan propiedades psíquicas que permitan diseñar test y escalar sus resultados para predecir comportamientos futuros. Un ejemplo de ejercicio de razón instrumental ha sido el uso por parte de Cambridge Analytica de las puntuaciones OCEAN⁹. A cada individuo se le puntuaba por características que determinaban su personalidad: O, abierto (en inglés, open); C, concienzudo; E, extravertido; A, afable; y N, neurótico. Según las puntuaciones obtenidas, se definían perfiles psicológicos para enviar publicidad microfocalizada. A eso le llama Zuboff ‘segunda fase’ del capitalismo de la vigilancia: no es el individuo, sino la propia sociedad la que se convierte en objeto de extracción y control. La política y la democracia se sustituyen por la tecnología y el metaverso.

La vigilancia masiva acaba con el derecho al asilo y al refugio, con la imagen de la casa como espacio inviolable que ofrece protección e intimidad y donde se ejerce de individuo, idea que Zuboff atribuye al filósofo francés G. Bachelard. Con el internet de las cosas y la computación ubicua, la mirada externa y extraña entra adentro, que se convierte así en afuera (como ocurre con la botella de Klein) y hace del individuo un ser vulnerable, sometido a la mirada del Gran Otro¹⁰, sumo sacerdote de una casta religiosa que usa a sus monaguillos, los científicos de datos, para la supervisión y el control de los individuos y del estado, socavando así su soberanía e independencia.

Zuboff responde a la última cuestión: ¿Quién decide quién decide? Si queremos que el futuro digital sea un hogar seguro e íntimo debemos ser nosotros quien controle quién decide. Para ello, llama a la rebelión, a luchar contra aquellos que se quieren apropiar del futuro digital. Como aconteció con el muro de Berlín que cayó porque la gente dijo ¡no más!, Zuboff sugiere que esa sea también ahora la máxima. No más vigilancia impune, no más negocio con nuestra conducta en la red, no más control de nuestras decisiones; solo así podremos recuperar nuestra intimidad, nuestro yo. Si pretendemos un mundo digital sano, ese es el programa que hay que seguir.

La denuncia de que estamos sometidos a un ‘panóptico cibernético’ no es nueva¹¹. Pero ahora alcanza más refinamiento y profundidad: “La próxima vez que copiéis un archivo, preguntaos por qué esa acción tarda tanto en comparación con la instantaneidad de la eliminación. La respuesta es que la eliminación no hace nada con un archivo más que ocultarlo…lo esconde solo ante quienes no saben dónde mirar” ¹². Ante este asalto a lo íntimo, a lo personal, debemos protegernos: si es posible, no usar Google, no usar Whashapp; no tener redes sociales. Debemos elegir software con enrutamiento cifrado que garantice el anonimato virtual y la privacidad de nuestras comunicaciones: Tor, Orbot, DuckDuckGo, Signal o Telegram son algunas alternativas. No hay duda de que el futuro será digital, pero debemos procurar que siga siendo humano. El capitalismo de la vigilancia degrada la dignidad del individuo y debemos luchar por recuperarla. El libro de Zuboff es un imprescindible en esa batalla.

Notas

¹ S. Zuboff, In the Age of the Smart Machine: The future of work and power, Basic Books, 1988.

² T. Berners-Lee, Tejiendo la red. El inventor del World Wide Web nos descubre su origen, Siglo XXI, 2002, p.114.

³ J. Lanier, ¿Quién controla el futuro?, Debate, 2014.

⁴ https://curia.europa.eu/juris/document/document.jsf?docid=152065&doclang=ES

⁵ https://www.lavozdegalicia.es/noticia/sociedad/2014/05/15/mario-costeja-gonzalez-nunca-defendido-derecho-olvido-internet/0003_201405G15P37991.htm

⁶ E. Snowden, Vigilancia permanente, Booket, 2020, p. 282.

⁷ B. Kaiser, La dictadura de los datos. La verdadera historia desde dentro de Cambridge Analytica y de cómo el Big Data, Trump y Facebook rompieron la democracia y cómo puede volver a pasar, Harper_Collins Ibérica, 2019, p. 302.

⁸ J. Weizembaun, La frontera entre el ordenador y la mente, Pirámide, 1977, p. 214.

⁹ B. Kaiser, op. cit., p. 114-5.

¹⁰ S. Zuboff, “Big Other: surveillance capitalism and the prospects of an information civilization”, Journal of Information Technology vol. 30, 2015, pp. 75–89.

¹¹ R. Whitaker, El fin de la privacidad. Cómo la vigilancia total se está convirtiendo en realidad, Paidós, 1999.

¹² E. Snowden, op. cit, p. 356.