Capitalismo de vigilancia (I)

 EL CAPITALISMO DE VIGILANCIA. LA REBELIÓN DE LAS MÁQUINAS (I).

The Age of Surveillance Capitalism de Shoshana Zuboff es actualmente la obra de referencia cuando se habla de la gran máquina de explotar datos creada alrededor de Google y Facebook. Publicado en 2019, el libro ha sido ampliamente citado en las conversaciones sobre la forma que está adoptando la sociedad digital(izada) del siglo XXI. Espero que tan amplia repercusión se base en una atenta lectura de las casi 700 páginas que integran este volumen. En esta serie de entradas les contaré brevemente de qué va el libro y les diré cuál es mi opinión.

El libro de Shoshana Zuboff, reconocida psicóloga social y socióloga de la Harvard University, nos propone un tour de force sobre todo bidisciplinar donde la autora va y viene de la economía (además de citar a los clásicos – Adam Smith, Karl Marx, Friedrich Hayek, Milton Friedman, Joseph Schumpeter-, toma muchos elementos de la crítica a la ortodoxia de Karl Polanyi) a la psicología (B. F. Skinner) en casi todos los capítulos. A lo largo del texto proliferan las declaraciones de los padres fundadores del capitalismo de vigilancia, incluyendo a empresarios conocidos como Mark Zuckerberg, Larry Page, Serguéi Brin, Eric Schmidt y Bill Gates e investigadores cuya contribución tecnológica ha sido fundamental en las últimas tres décadas de vida digital.

El libro se divide en tres partes de unas 200 páginas cada una. La primera está dedicada al surgimiento del capitalismo de vigilancia, la segunda indaga en su expansión hacia otros ámbitos de la vida social y económica, y la tercera se centra en la consolidación de un poder instrumental que, según Zuboff, no merece otro nombre que el de Big Other, un concepto con evidentes connotaciones orwellianas. Si en un momento el capitalismo de vigilancia pasó del mundo virtual al real (de esto se habla en la segunda parte de libro), ahora estaríamos asistiendo al pasaje hacia el mundo social, un entorno donde toda la sociedad se convierte en objeto de extracción de datos y control.

Primera parte. Los fundamentos del capitalismo de vigilancia

La primera parte del libro está dedicada al surgimiento del surveillance capitalism. Zuboff repasa el nacimiento de Google a finales de los años noventa, esa época gloriosa en que las ciberculturas marcaban el ritmo de las conversaciones en ámbito empresarial y académico, y cada día nacía una start-up que prometía cambiar el mundo a condición de que los inversores le pusieran millones de dólares sobre la mesa. Esta burbuja, como sabemos, explotó en el 2001 y dejó a buena parte de Silicon Valley pedaleando en el aire. Google, el buscador que habían creado un par de estudiantes de Stanford allá por 1997, no era la excepción. Como muchas start-ups, esta empresa había nacido más como desafío computacional que como proyecto empresarial con modelo de negocios incluido.

“Google invented and perfected surveillance capitalism in much the same way that a century ago General Motors invented and perfected managerial capitalism.”

Cuando estalló la burbuja, el search engine de Google era tan exitoso que estaba a punto de superar a Yahoo! en cantidad de búsquedas… pero necesitaban generar más ingresos para evitar la fuga de los inversores. No bastaba con AdWords, el sistema publicitario que habían introducido en 2000: además de explotar mejor los datos de los usuarios que obtenían del buscador, Google debía crear nuevos entornos de interacción para obtener más informaciones de los internautas. Así fue que, en los años siguientes, nacieron decenas de servicios “gratis”, desde Gmail hasta Google Maps y Google Books. Había nacido la gran máquina de “chupar” datos de los usuarios. O sea, había nacido el capitalismo de vigilancia. Al poco tiempo se sumaría al festín Facebook con sus propias estrategias, mucho más sofisticadas que las de Google (ver mi post del 2009 “Facebook vs. Google“).

“Ford’s invention revolutionized production. Google’s interventions revolutionized extraction and established surveillance capitalism’s first economic imperative: the extraction imperative.”

Google y Facebook utilizaron muchos datos de sus usuarios para mejorar sus servicios. Pero, además, descubrieron que estaban captando datos aparentemente secundarios o sin valor… ¿Cómo monetizarlos? Aquí Zuboff introduce un concepto nuevo, el de behavioral surplus (“excedente de comportamiento“). Estos datos considerados hasta ese momento basura numérica, convenientemente procesados, podían servir para identificar patrones de comportamiento y predecir las acciones de los usuarios. Zuboff hace mucho hincapié en las posibilidades predictivas de la machine intelligence, lo cual tiene obviamente consecuencias culturales, económicas y políticas.

“In this phase of surveillance capitalism’s evolution, the means of production are subordinated to an increasingly complex and comprehensive ‘means of behavioral modification’.”

¿Por qué se pudo desarrollar esta economía de la vigilancia? En esta parte del libro Zuboff recupera la historia del neoliberalismo y relata cómo se impuso una lógica contraria a la intervención estatal que privilegiaba la libertad individual. Las empresas digitales se encontraron con un vacío legal y un paraguas ideológico favorable para dar rienda suelta a sus experimentos socio-computacionales.

En esta primera parte del libro la autora también describe la trama de relaciones que une a las compañías del capitalismo de vigilancia con la National Security Agency, la CIA y otros entes dedicados al espionaje y control político, mientras que analiza paso a paso cómo Google y Facebook van probando nuevas formas de captar datos violando la privacidad de los usuarios. A veces estos experimentos retroceden por las denuncias recibidas o intervenciones de la justicia, pero no tardan en ser reimplementados siguiendo otros caminos. También dedica unos cuantos párrafos a la cooptación de investigadores y laboratorios. Como veremos más adelante, el MIT está en el centro de la mira de Zubbof.

En reiteradas ocasiones la autora insiste en que es errado decir que los usuarios “somos el producto” de los servicios “gratuitos” de Google, Facebook y otras plataformas: nosotros somos la materia prima, la fuente de datos que estas empresas recopilan, procesan, empaquetan y venden en forma de perfiles hiperpersonalizados y predicciones de comportamiento.

“We are the objects from which raw materials are extracted and expropriated for Google’s prediction factories. Predictions about our behaviour are Google’s products, and they are sold to its actual customers but not to us. We are the means to others’ ends.”

Estos paquetes de datos son la mercancía que sale de las “líneas de producción” de Google y Facebook. Según Zuboff, este nuevo modo de producción entierra en el pasado al viejo capitalismo industrial perfeccionado por Ford y General Motors. Estamos frente a una nueva lógica extractiva (de datos) que no tardará en expandirse al resto de las actividades humanas, tal como pasó en su momento con la línea de montaje y la producción en serie.

Antes de pasar a la segunda parte del libro, un par de comentarios que retomaré al final de esta reseña. Para mí, esta primera parte es la más lograda de The Age of Surveillance Capitalism. El relato de Zuboff está muy bien armado y la descripción del surgimiento del capitalismo de vigilancia es muy detallada. Si bien la autora se basa en una serie de investigaciones científicas, buena parte de su relato se alimenta de entrevistas a expertos en data analysis y declaraciones públicas de los referentes de estas empresas (Page, Brin, Zuckerberg, etc.).

Segunda parte. El avance del capitalismo de vigilancia

Si la primera parte del libro está dedicada al surgimiento del capitalismo de vigilancia, en la segunda Zuboff explica cómo la explotación de datos y el mercado de las predicciones se expandió hacia empresas fuera del circuito digital. Desde las primeras páginas de la segunda parte la autora arremete contra el ubiquitous computing, el modelo de las smart cities y la Internet of Things. La interconexión entre dispositivos a través de redes 5G no solo aportará más información personal a la gran industria de los datos: también se convertirá en un potente dispositivo de control social.

Un ejemplo, al cual Zuboff volverá varias veces a lo largo del libro, le sirve para describir el futuro que se vislumbra: se avecina una nueva fase de la captación de datos personales a través de dispositivos hogareños, desde las nuevas interfaces vocales (Alexa, Siri, Cortana, etc.) hasta las aspiradoras-robot como la Roomba, que mapea cuidadosamente el interior de las casas y envía esa información a la casa central. Otro caso: imaginemos que el propietario de un coche comprado a crédito deja de pagar las cuotas mensuales de su vehículo; al detectar la morosidad, el sistema envía un mensaje al coche y este deja de funcionar hasta que el propietario no se ponga al día.

“Pokémon Go was surveillance capitalist’s dream come true, fusing scale, scope, and actuation.”

Según Zuboff ya no se trata solo de captar datos sino de pasar a la acción. Un ejemplo de este pasaje a una “economía de la acción” lo encontramos en Pokemon Go. Durante el verano del 2016 una buena parte del planeta se pasó los días cazando pokemones. Según Zuboff, esta experiencia -auspiciada por Google- fue la puesta a punto de un potente dispositivo de control y acción social. Con la excusa de cazar pokemones, los usuarios podían ser teledirigidos a un local de Starbucks o McDonalds (sistema de “sponsored locations”). Esta “economía de la acción” reaparece en los experimentos sociales que realiza Facebook manipulando el muro de cientos de miles de usuarios, donde se ha llegado incluso a movilizar votantes solo cambiando el “sentimiento” de las noticias que se visualizan en la pantalla.

“Emotional states can be transferred to others via emotional contagion, leading people to experience the same emotions without their awareness. Online messages influence our experience of emotions, which may affect a variety of offline behaviours.”

Para sostener esta parte del libro Zuboff recurre al conductismo radical de B. F. Skinner, el psicólogo que soñaba con la posibilidad de una “ingeniería conductual” basada en una “technology of behaviour“. Después de experimentar varias décadas con palomas, ratas y otros bichos, Skinner desarrolló una sofisticada teoría basada en el “reforzamiento” como base para la manipulación de los sujetos y un mejoramiento de la sociedad vía el aumento de la felicidad. También Marta Peirano menciona al conductismo radical de B. F. Skinner en su libro El enemigo conoce el sistema.

“It is not possible to imagine surveillance capitalism without the marriage of behaviour modification and the technological means to automate its application.”

Como podemos ver, el relato que se va construyendo a medida que pasan las páginas de The Age of Surveillance Capitalism asume dimensiones apocalípticas: el capitalismo de vigilancia ha construido una sofisticada máquina de captación de información, construcción de predicciones y manipulación social que aparentemente no presenta resquicios. Aunque la referencia de Zuboff sea Hannah Arendt, el tono del libro se acerca mucho a los planteos de la Dialéctica de la Ilustración (1944) de Theodor Adorno y Max Horkheimer. Si en ese volumen los alemanes cargaban las tintas contra ese malvado mecanismo que hacía que los sujetos alienados “desearan y se aferraran obstinadamente a la ideología mediante la cual se les esclaviza”, el discurso de Zuboff transmite en la misma frecuencia de onda pero con una diferencia para nada marginal: ahí donde Adorno y Horkheimer desarrollaron su crítica de la industria cultural basándose en la economía política de Karl Marx y el psicoanálisis de Sigmund Freud, la crítica al capitalismo de vigilancia de Zuboff se funda en un extraño cóctel que va del cuestionamiento light al capitalismo de Karl Polanyi al conductismo radical de B. F. Skinner.

En la próxima entrada les contaré la tercera parte del libro y compartiré unas cuantas reflexiones (y perplejidades) sobre el recorrido que nos propone Shoshana Zuboff en The Age of Surveillance Capitalism.

https://hipermediaciones.com/2020/08/23/capitalismo-vigilancia-i/

***

Salvation?

Como habrán visto, los subtítulos de esta serie de entradas incluyen un homenaje a la saga de Terminator (“La rebelión de las máquinas”, “Destino oscuro”). Ahora llegó la hora de “Salvation”… ¿Hay salvación a la distopía que nos depara la era del capitalismo de vigilancia? A pesar de que aquí y allá Zuboff intenta insuflar algo de optimismo, su libro es una oda al apocalipticismo digital. Solo al final, en un par de páginas, deja caer de manera inconexa y sin profundizar algunas vías para contrarrestar el poder de las grandes corporaciones que han hecho de los algoritmos y los datos un gran negocio.

La referencia a Nicholas Negroponte al inicio de esta entrada no es casual. Al igual que el fundador del Media Lab del MIT, tengo la impresión de que Shoshana Zuboff termina mitificando -en el sentido barthesiano- las tecnologías digitales. Ahí donde Negroponte construye un discurso mítico que pone a las tecnologías digitales al centro de un programa de emancipación y transformación, Zuboff las coloca en el corazón de una estrategia de dominación y control social. Si Negroponte no tenía en cuenta los posibles usos desviados o directamente antidemocráticos de las tecnologías digitales, Zuboff solo ve dominación y control, y liquida en pocas frases los posibles beneficios que los algoritmos ofrecen a sus usuarios (entre otras cosas, los algoritmos pueden ayudarnos a reducir la cantidad de accidentes de coche o predecir la evolución de una pandemia). En breve: mientras sigamos atados a lecturas monodimensionales, no saldremos nunca del desgastante péndulo entre apocalípticos e integrados.

The Age of Surveillance Capitalism es un libro que vale la pena leer, a pesar de su extensión (hay ideas que se repiten una y otra vez, como si la autora nos quisiera inculcar un concepto a la manera de Skinner con sus ratas y palomas) y de las limitaciones que acabo de mencionar en estos párrafos. El “capitalismo de vigilancia” existe, es un problema grave de nuestra sociedad y debe ser enfrentado desde diferentes niveles, comenzando por la alfabetización de los usuarios hasta llegar a la implementación de acciones políticas y judiciales a escala internacional. Lo repito: la primera parte del libro, donde se cuenta con lujo de detalles la emergencia de nuevos actores en la red sociotecnológica que se movieron (y siguen haciéndolo) con total impunidad en un marco de vacío legal, es una excelente descripción del mitificado mundo de Silicon Valley y sus start-ups.

¿Hay “Salvation”? Por supuesto. Pero la condición previa para cualquier tipo de acción, no sólo en este campo, es comprender el funcionamiento del (eco)sistema en todas sus dimensiones, incluyendo los actores, relaciones y procesos que forman parte de cada componente de la red sociotecnológica (o, si prefieren, de cada “interfaz”), los costes-beneficios y las dinámicas de satisfacción-deseo que se presentan en cada caso. Como ya escribí en otro post sobre las interpretaciones críticas de las plataformas,

Pensar que Amazon o Uber son solo empresas que utilizan datos como materia prima y lucran con ellos me parece reductivo, casi como pensar que la vieja televisión de broadcasting era solo un dispositivo para generar rating. Siguiendo con este ejemplo, las transformaciones sociales que generó la televisión a su alrededor no se pueden reducir a la dimensión “matemática” del rating, de la misma manera que no podemos simplificar el rol de las nuevas corporaciones exclusivamente a su dimensión “algorítmica” (…) Debemos abrir el abanico interpretativo a la hora de analizar las plataformas.

Lo aclaro por las dudas: decir que la crítica a las plataformas se queda corta o no tiene en cuenta todas las dimensiones del fenómeno no es lo mismo que defender sus lógicas de extracción de datos ni justificar el rumbo que está tomando la evolución de estas corporaciones. Que un puñado de empresas controlen el mercado de los datos y trafiquen de manera salvaje con la información personal es un problema de primer orden de nuestra sociedad. Pero para empezar a resolverlo, debemos aprehenderlo en toda su complejidad. Y para eso, nunca alcanzará un único libro o mirada.

Bonus Tracks

Book Review: The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power by Sam di Bella

Reseña de Sébastien Broca: Vigilar y predecir

Documental: El capitalismo de vigilancia