Durante mรกs de una dรฉcada Facebook consiguiรณ escapar al escrutinio pรบblico. Solo los expertos criticaban su filosofรญa de โmuรฉvete rรกpido y rompe cosasโ; el resto estรกbamos despistados mirando el mรณvil. Tras la victoria de Trump en Estados Unidos, esta actitud cambiรณ. La opiniรณn pรบblica occidental comenzรณ a sospechar que quizรก la laxitud de Facebook con las noticias falsas y el efecto radicalizador de sus algoritmos, y sus polรญticas de privacidad tan relajadas, podrรญan haber contribuido a la victoria de Trump y el brexit. La sospecha se confirmรณ en marzo de 2018, cuando The Guardian desvelรณ que Cambridge Analytica habรญa obtenido de manera irregular hasta 87 millones de datos de usuarios de Facebook. No era algo inusual en la empresa, que ha basado su modelo de negocio en la venta de datos privados a terceros, pero esta vez la polรฉmica tenรญa un cariz diferente. Cambridge Analytica habรญa usado esos datos para elaborar propaganda pro-Trump y pro-brexit.
Facebook pasรณ de ser una herramienta de progreso a una compaรฑรญa sin escrรบpulos. Se convirtiรณ rรกpidamente en el paradigma de todo lo que iba mal en las nuevas plataformas digitales. Era un monopolio que destrozaba a sus competidores, creaba adicciรณn, tenรญa un poder de lobby enorme, promovรญa noticias falsas, su fomento del engagement creaba radicalizaciรณn y su modelo de negocio estaba basado en el llamado โcapitalismo de vigilanciaโ.
La empresa se enfrentรณ a su crisis con perplejidad. No somos los peores ni los รบnicos, sugerรญan sus directivos. Ni siquiera los mรกs poderosos. Todas las grandes plataformas digitales se basan en el modelo de negocio del โcapitalismo de vigilanciaโ, en la monitorizaciรณn y comercializaciรณn de datos sobre el comportamiento de los usuarios. ยฟDe quรฉ otra manera podรญan sobrevivir y hacerse ricas empresas como Google o Facebook, que siempre han ofrecido servicios gratuitos?
Marketing como ciencia
Cuando se creรณ Google en 1998, pocos usuarios se preguntaron cรณmo obtenรญa beneficios. La empresa cultivรณ una especie de imagen filantrรณpica al estilo Wikipedia: el usuario buscaba informaciรณn en una interfaz simple y no habรญa un intercambio econรณmico. En Google no habรญa clientes sino usuarios. Y cuando surgiรณ la publicidad, no era invasiva: AdWords colocaba anuncios a partir de palabras clave. En pocos aรฑos, la empresa creciรณ tanto que se convirtiรณ en sinรณnimo de internet.
El producto estaba claro y era รบtil y sencillo. Lo que no estaba claro era el modelo de negocio. Google vendรญa su sistema de bรบsqueda a otras empresas pero no era una estrategia muy rentable. Tras la crisis de las puntocom, en 2000, que explotรณ tras unos aรฑos de dinero barato y fรกcil e inversiones arriesgadas, los inversores le exigieron a Google que buscara rentabilidades. Google le encomendรณ esa tarea a AdWords, dirigido por Sheryl Sandberg (aรฑos despuรฉs ficharรญa por Facebook para desarrollar un sistema similar y se convertirรญa en la mano derecha de Zuckerberg), que creรณ un modelo que acabarรญan copiando todas las plataformas tecnolรณgicas.
Google combinรณ la enorme cantidad de datos sobre el comportamiento de sus usuarios, el rastro de โmiguitasโ y patrones de comportamiento que dejaban sobre ellos mismos al navegar sin ser conscientes, con su enorme poder computacional para crear un sistema de marketing sofisticado. Como explica la profesora de la Harvard Business School Shoshana Zuboff en su monumental The age of surveillance capitalism โla combinaciรณn de una mayor inteligencia artificial y una vasta y creciente reserva de excedente de comportamiento [el rastro de miguitas] se convertirรญa en el fundamento de una lรณgica de acumulaciรณn sin precedentesโ.
Google se transformรณ en una empresa de publicidad que aspiraba a convertir el marketing en una ciencia. En pocos aรฑos se hizo multimillonaria. En 2002, el aรฑo en que Google ideรณ este nuevo โcapitalismo de vigilanciaโ, la empresa obtuvo 347 millones de dรณlares de ingresos. Al aรฑo siguiente esa cifra alcanzรณ los 1.500 millones. En 2018, veinte aรฑos despuรฉs de su fundaciรณn, la empresa ganรณ 136.000 millones de dรณlares.
Google descubriรณ, segรบn Zuboff, โuna manera de traducir sus interacciones no mercantiles con sus usuarios en materias primas excedentarias [behavioral surplus] para la fabricaciรณn de productos que venderรญa en transacciones realmente mercantiles a sus verdaderos clientes: los anunciantesโ. Es una lรณgica muy presente en el capitalismo contemporรกneo: extender el โcampo de acciรณnโ de la economรญa y comercializar las transacciones que no son tradicionalmente comerciales (ahรญ tenemos Airbnb, Blablacar). Tambiรฉn encaja con una creciente financiarizaciรณn: las transacciones especulativas tienen mรกs importancia que las tradicionales o que las de la โeconomรญa realโ. En el caso del capitalismo de vigilancia, no hay un intercambio econรณmico entre el proveedor y el usuario sino que la transacciรณn comercial se realiza entre bambalinas, en un sistema de subastas de datos privados.
((Aunque cada vez se conoce mรกs, el modelo de negocio real de empresas como Google o Facebook es todavรญa generalmente desconocido. En 2018, Zuckerberg fue interrogado por varios senadores estadounidenses. Uno de ellos le preguntรณ: โEntonces, ยฟcรณmo se sostiene un modelo de negocio en el que los usuarios no pagan por su servicio?โ Zuckerberg respondiรณ con soberbia: โSenador, ponemos anuncios.โ
))
Este sistema de vigilancia abre una nueva etapa del capitalismo, pero su avance solo puede comprenderse junto al รฉxito de polรญticas neoliberales y de desregulaciรณn ya conocidas. Google y Facebook no pidieron permiso, pidieron paso. Uno de los mantras de Silicon Valley es que las empresas tecnolรณgicas van siempre muy por delante del Estado. La regulaciรณn y la intervenciรณn estatal son un obstรกculo para el progreso (aunque no siempre: como han seรฑalado autoras como Mariana Mazzucato o Margaret OโMara, las empresas tecnolรณgicas han defendido la ayuda pรบblica en los malos tiempos y el laissez faire en los buenos). Las empresas tecnolรณgicas se autorregularรญan a partir de la promesa de portarse bien. โDonโt be evilโ (โNo seas maloโ) era el eslogan de Google hasta hace unos aรฑos; el actual es โDo the right thingโ (โHaz lo correctoโ). Esta idea, junto al convencimiento, en buena medida infundado o promovido por las propias tecnolรณgicas, de que al individuo del siglo XXI no le preocupa mucho la privacidad, ha servido de autojustificaciรณn para el avance del capitalismo de vigilancia.
El negocio de la realidad
Google abriรณ la veda. Poco despuรฉs se sumรณ Facebook. En 2008, Mark Zuckerberg fichรณ a Sheryl Sandberg. La antigua empleada de Google convirtiรณ Facebook en un leviatรกn de la publicidad. Con ella la empresa aprenderรญa, dice Zuboff, โa monitorizar, rascar, almacenar y analizar upi [User Profile Information] para fabricar sus propios algoritmos de focalizaciรณn, y al igual que Google, no limitarรญa sus operaciones de extracciรณn a lo que la gente comparte voluntariamente con la compaรฑรญa. Sandberg comprendiรณ que, a travรฉs de la manipulaciรณn sutil de la cultura de la intimidad y el intercambio de Facebook, serรญa posible usar el excedente de comportamiento no solo para satisfacer la demanda sino tambiรฉn para crear demandaโ.
La lรณgica del capitalismo de vigilancia se extendiรณ hasta un punto en el que el servicio original (el de Google era โindexarโ toda la informaciรณn global, el de Facebook โconectarโ a todo el planeta) se convirtiรณ solo en una tapadera: si Facebook es una red social, ยฟpor quรฉ invierte tanto dinero en empresas de drones o en sistemas de geolocalizaciรณn por satรฉlite?
El objetivo es simplemente obtener cada vez mรกs โexcedente de comportamientoโ. Esta acumulaciรณn ha de hacerse de forma masiva para conseguir โescalarโ, o crear economรญas de escala: cuantos mรกs datos poseen, mรกs eficientes son. Ese es el verdadero y รบnico modelo de negocio de las grandes plataformas tecnolรณgicas. Sin la capacidad de vigilar y acumular datos de manera masiva, gran parte de la economรญa digital no serรญa rentable. Y sin la capacidad de hacer esto sin pedir permiso, las grandes plataformas tecnolรณgicas no se habrรญan convertido en las empresas mรกs rentables del planeta.
En la lรณgica imparable de acumulaciรณn de datos para crear economรญas de escala, las empresas tecnolรณgicas han disparado primero y preguntado despuรฉs. En 2010, la agencia de protecciรณn de datos de Alemania desvelรณ que los coches de Google Street View se dedicaban a capturar datos de wifis privados por donde pasaban. Esos datos incluรญan nombres, nรบmeros de telรฉfono, informaciรณn crediticia, contraseรฑas, mensajes, emails, transcripciones de chats, informaciรณn mรฉdica, fotos, vรญdeos y audios. Google se defendiรณ diciendo que habรญa sido un error humano de uno de sus ingenieros. Pero la Comisiรณn Federal de Comunicaciones de EEUU (FCC) demostrรณ que se trataba de una decisiรณn deliberada de la compaรฑรญa y que el ingeniero convertido en cabeza de turco fue seleccionado precisamente por su experiencia en ese tipo de captura de datos.
Incluso cuando las empresas piden permiso, el objetivo es una โacumulaciรณn primitivaโ de datos. Los tรฉrminos de servicios y las polรญticas de privacidad de las plataformas digitales estรกn diseรฑados para ser ambiguos o para ocultar las invasiones de privacidad. A menudo, las apps que usamos nos piden acceso a nuestros mensajes, a la localizaciรณn e incluso al micrรณfono, a pesar de que no necesitan esa informaciรณn para operar. Si no aceptamos esta violaciรณn de la privacidad, las aplicaciones no pueden usarse, no se actualizan o nos avisan de que pueden tener brechas de seguridad. Una investigaciรณn de la web Quartz desvelรณ que los mรณviles con sistema operativo Android estรกn constantemente recopilando informaciรณn de nuestra ubicaciรณn, aunque estรฉ desactivada la funciรณn de geolocalizaciรณn, no haya una tarjeta SIM y no estemos usando ninguna app.
Para acumular mรกs datos, el capitalismo de vigilancia extiende su acciรณn hacia lo que Zuboff denomina el โnegocio de la realidadโ: โlos espacios pueden agregarse a un flujo continuo de informaciรณn, imรกgenes y sonidos accesible, del mismo modo que Google comenzรณ agregando pรกginas webs para indexarlas y permitir su bรบsquedaโ. Si Google sacaba coches a la calle para recopilar nuestra informaciรณn digital, ahora quiere ir mรกs allรก. El โinternet de las cosasโ (los wearables, las smartTV, los electrodomรฉsticos inteligentes, los asistentes de voz como Alexa) tiene como objetivo monitorizar la vida real, no solo la actividad digital de los usuarios, que era el objetivo inicial del capitalismo de vigilancia.
La aspiradora autรณnoma Roomba crea mapas a partir de su recorrido. En 2017, el presidente de Roomba admitiรณ que esos datos (un mapa de tu casa) son muy lucrativos y se venderรญan a terceros. En la polรญtica de privacidad de una TV inteligente de Samsung, aparece la siguiente advertencia: โPor favor, sea consciente de que si sus intervenciones habladas incluyen informaciรณn personal u otra informaciรณn sensible, esa informaciรณn se incluirรก en los datos capturados y transmitidos a un tercero a travรฉs del Reconocimiento de vozโ. Zuboff cita varios estudios sobre apps de salud y fitness que recogen datos biomรฉtricos de los usuarios sin su consentimiento.
El futuro de esta lรณgica de acumulaciรณn estรก en dispositivos que sepan capturar datos de diferente procedencia y de manera centralizada. Alexa, el asistente de Amazon, tiene como objetivo convertirse en una especie de gestor de todos los dispositivos inteligentes de una casa, que miden diversos comportamientos. Como dice el vicepresidente de Alexa, โnuestro objetivo es crear un tipo de ecosistema neural y abierto para Alexa, y hacer que sea lo mรกs ubicuo posibleโ. Empresas como Realeyes o Affectiva desarrollan lo que se ha denominado โcomputaciรณn afectivaโ: softwares que reconocen e identifican caras, calculan la edad, la etnia y el gรฉnero, analizan miradas y pestaรฑeos, y monitorizan movimientos de ojos, emociones, estados de รกnimo. Como dice un informe de Realeyes, โLas emociones โintangiblesโ se traducen en actividad social, reconocimiento de marca y beneficios.โ
El objetivo final es que internet โdesaparezcaโ, como ha sugerido el CEO de Google Eric Schmidt; que se convierta en una especie de presencia ubicua imperceptible, mientras monitoriza y captura millones de datos.
La captura masiva de datos de comportamiento se ha convertido en un negocio atractivo para otros sectores mรกs allรก de Silicon Valley, como las aseguradoras o la banca. Los grandes bancos invierten cada vez mรกs en inteligencia artificial. En 2019, Citigroup gastรณ en tecnologรญa 8.000 millones de dรณlares, Bank of America 10.000, JP Morgan 11.000. Este รบltimo tiene un โcampusโ de investigaciรณn en IA en Palo Alto (California) con mil empleados, y el fondo de inversiรณn Black Rock ha establecido tambiรฉn en la zona un laboratorio de inteligencia artificial. Pero el caso mรกs sorprendente es el del banco japonรฉs Softbank, que ha creado un fondo de 108.000 millones de dรณlares para invertir en IA. Los analistas del sector afirman que existe el riesgo de que estas inversiones masivas estรฉn saturando el mercado y sean consecuencia del miedo a quedarse atrรกs.
Con tanta cantidad de datos a su disposiciรณn, el capitalismo de vigilancia domina lo que Zuboff llama โdivisiรณn del aprendizajeโ, el principio clave en una economรญa de la informaciรณn: quien mรกs informaciรณn tiene mรกs poder tiene. El capitalismo de vigilancia lleva al extremo las asimetrรญas de informaciรณn de una economรญa capitalista.
(( Hay tecnรณlogos, como Viktor Mayer-Schonberg, que anticipan el fin del capitalismo diciendo que la economรญa basada en los datos sustituirรก al sistema de precios como el gran organizador (e โinformadorโ) de la economรญa capitalista.
))
Y ese poder le permite incluso predecir resultados. Por eso interesa a la banca o las empresas de seguros, que ven muy รบtil el uso de datos privados para predecir el riesgo de quiebra o de impago de sus clientes.
Pero ยฟrealmente la tendencia del capitalismo global es hacia la captura de excedentes de comportamiento? Uno de los errores de Zuboff es que, una vez ha elaborado su ambicioso modelo, todo parece encajar en รฉl. La autora ignora otro tipo de intereses, algunos mรกs banales, detrรกs del capitalismo de vigilancia. A menudo es simplemente el intento de garantizar una posiciรณn dominante frente a la competencia. Otras veces (como en las adquisiciones de empresas por parte de Google), el objetivo es anular a esa competencia: desde 2001, Alphabet, la matriz de Google, ha comprado mรกs de 220 empresas; Facebook ha adquirido 70. No se puede descartar tampoco que las empresas que se suman al capitalismo de vigilancia estรฉn acumulando datos masivos sin saber muy bien su utilidad: es el nuevo hype del capitalismo contemporรกneo.
Como seรฑala el teรณrico y analista de internet Evgeny Morozov en una meticulosa reseรฑa del libro, la autora sobredimensiona el papel del capitalismo de vigilancia en la economรญa global:
Las revelaciones recientes sobre las controvertidas prรกcticas de intercambio de datos de Facebook confirman que los imperativos del โcapitalismo de vigilanciaโ, si existen, son solo secundarios a los del propio capitalismo. La empresa, preocupada por el crecimiento, manejรณ los datos como un activo estratรฉgico: ahรญ donde los imperativos de expansiรณn sugirieron que debรญan compartirse con otras compaรฑรญas tecnolรณgicas, lo hicieron sin dudar, dando acceso a Microsoft, Amazon, Yahoo e incluso a Apple (aunque Apple negรณ su participaciรณn). Bajo el capitalismo, quiรฉn obtiene un excedente conductual apropiado es de importancia secundaria; lo que importa es quiรฉn consigue apropiarse la plusvalรญa propiamente dicha.
((Evgeny Morozov, โLos nuevos ropajes del capitalismo (Parte II)โ, El salto, 10/3/2019.
))
Acciรณn, predicciรณn, modificaciรณn
Zuboff asegura que las tecnolรณgicas aspiran a una situaciรณn de โresultados garantizadosโ (guaranteed outcomes). El objetivo no es solo comercializar nuestros datos privados sino adelantarse a nosotros. Antes tรบ buscabas en Google, ahora Google te busca a ti. Un reportaje publicado en The Intercept desvelรณ las prรกcticas de predicciรณn comercial de Facebook: la empresa โanaliza excedentes de comportamiento para identificar a los individuos que estรกn โen riesgoโ de cambiar su lealtad de marca. La idea es que estas predicciones pueden hacer que los anunciantes intervengan de inmediato y dirijan mensajes agresivos que estabilicen la lealtad para asรญ conseguir resultados garantizadosโ.
Es mรกs o menos lo que hizo Cambridge Analytica. La empresa elaborรณ perfiles de indecisos en swing states de los EEUU(los estados que pueden votar tanto republicano como demรณcrata) a partir de un test de personalidad integrado en Facebook. Aunque elevรณ el marketing polรญtico a guerra psicolรณgica y obtuvo los datos de manera irregular, en esencia no hizo nada muy diferente a las campaรฑas de Obama en 2008 y 2012, dirigidas por Eric Schmidt, de Google.
((Christopher Wylie, el exempleado de Cambridge Analytica que desvelรณ la trama, trabajรณ en la campaรฑa de Obama en 2008. En 2015, como CEO de otra empresa de propaganda electoral, Euonia, intentรณ que le contratara la campaรฑa de Trump, pero fracasรณ. Ahora Wylie es un alto cargo en la marca de moda H&M.
))
El problema no es Cambridge Analytica, o no el mรกs importante, sino Google y Facebook.
El capitalismo de vigilancia es economรญa behavorial, o del comportamiento, con esteroides. Si sabe monitorizar y capturar datos de comportamiento e incluso predecirlo, tambiรฉn es capaz de modificarlo. El capitalismo de vigilancia estรก en el negocio del nudge, tรฉrmino popularizado por Cass Sunstein y Richard Thaler que quiere decir โempujoncitoโ: โUn โempujoncitoโ es cualquier aspecto de la arquitectura de elecciรณn que altera el comportamiento de un individuo de una manera predecible sin prohibirle ninguna opciรณn o cambiar significativamente sus incentivos econรณmicos.โ Zuboff es escรฉptica, con razรณn, con este tipo de estrategias, y seรฑala su componente iliberal. Al mismo tiempo, le preocupa mรกs el uso comercial por parte del capitalismo de vigilancia que el uso estatal (los Estados usan constantemente nudges sin que la libertad de los ciudadanos se reduzca de manera significativa).
La autora da dos ejemplos clave de modificaciรณn del comportamiento por parte de los capitalistas de la vigilancia: un experimento de Facebook que modificรณ el algoritmo para alterar las emociones de los usuarios (a unos les colocรณ noticias positivas, a otros negativas y observรณ el resultado), y el caso del videojuego Pokรฉmon Go, que naciรณ a partir de Google Maps. Segรบn Zuboff, este juego es el sueรฑo de un capitalista de vigilancia hecho realidad: โes un laboratorio viviente para la telestimulaciรณn a escala ya que los desarrolladores aprendieron a condicionar y agrupar el comportamiento, dirigiรฉndolo en tiempo real hacia constelaciones de mercados de comportamiento de futurosโ. Pokรฉmon Go combina el software cartogrรกfico de Google con una dinรกmica de gamificaciรณn. Con la excusa de cazar pokemons en espacios reales (funciona con la cรกmara del mรณvil), el juego te conduce hacia donde desea: esto abre posibilidades a negocios para atraer a clientes a lugares fรญsicos u ofrecerse como โlugares patrocinadosโ, pero tambiรฉn permite a Google mapear zonas inaccesibles para la empresa mediante otros medios (como jardines privados a donde no tiene acceso el Street View).
La economรญa de la modificaciรณn del comportamiento es quizรก uno de los puntos mรกs dรฉbiles de Zuboff, donde sus teorรญas son mรกs especulativas para que los hechos encajen en su modelo. Cree que detrรกs de los avances del capitalismo digital estรกn las teorรญas del psicรณlogo conductista B. F. Skinner, que revolucionรณ la psicologรญa en los aรฑos sesenta y setenta con su behaviorismo radical. Para Skinner, el libre albedrรญo es una ilusiรณn, y estamos atrapados en patrones de comportamiento que dependen del contexto y de la sociedad y que escapan a nuestra comprensiรณn. Defendรญa la ingenierรญa social para salvar a nuestra civilizaciรณn y pensaba que la democracia era un despotismo porque institucionalizaba la ignorancia. Zuboff conecta las ideas de Skinner con las de tecnรณlogos como Hal Varian (economista jefe de Google) o Alex Pentland (mit), que defienden una especie de โfรญsica socialโ (el anรกlisis de la sociedad como si fueran fenรณmenos fรญsicos, una lรณgica muy extendida en los utopistas del Big Data) y una de las ideas clave de Skinner: el conocimiento sustituye a la libertad.
La conexiรณn entre Skinner y los tecnรณlogos es original y acertada, pero tambiรฉn puede despistar. El libro analiza la estructura econรณmica del capitalismo digital y sus nuevos incentivos y expone la avaricia de las grandes empresas tecnolรณgicas. Sin embargo, olvida la lรณgica econรณmica en sus conclusiones, que se basan en una sociologรญa muy pobre. Resulta mรกs creรญble el relato de un neoliberalismo obsesionado con ampliar masivamente sus beneficios que el de una especie de planificaciรณn pseudototalitaria (la autora cita a Orwell y Los orรญgenes del totalitarismo, de Arendt).
Para explicar el desarrollo y funcionamiento del capitalismo de vigilancia, Zuboff indaga en patentes de las grandes empresas tecnolรณgicas, estudia artรญculos acadรฉmicos de sus ingenieros y analiza sus compras y adquisiciones de otras empresas. Pero las lecciones morales que extrae son a menudo superficiales e ingenuas, excesivamente retรณricas y tautolรณgicas. Es tambiรฉn sorprendente que Zuboff desarrolle conceptos y neologismos sin apenas tener en cuenta a los innumerables autores que han venido antes de ella: desde Evgeny Morozov hasta Cathy Oโ Neill, Antonio Garcรญa Martรญnez o Nick Srnicek.
Zuboff defiende una concepciรณn del capitalismo como un sistema basado en contratos que obligan a cierta reciprocidad. La lรณgica de predicciรณn y โresultados garantizadosโ del capitalismo de vigilancia rompe con esa idea: โno hay libertad sin incertidumbre; es el medio por el cual la voluntad humana se expresa mediante promesasโ. Segรบn la autora, el capitalismo de vigilancia quiere crear, a partir de un determinismo tecnolรณgico y de una ideologรญa del โinevitabilismoโ, una especie de sociedad poshistรณrica donde el conocimiento y la planificaciรณn social (mediante la predicciรณn del comportamiento) sustituyen a la libertad y la autonomรญa individual. Es una visiรณn demasiado catastrofista y suena a jeremiada. Zuboff es una conversa y su libro tiene en cierto modo un tono de redenciรณn: una profesora de la Harvard Business School, epรญtome del capitalismo, descubre el Gran Engaรฑo. Pero la validez de sus investigaciones es enorme y su defensa de un capitalismo que se aleje de los postulados del neoliberalismo y del utopismo tecnolรณgico es importante. Su libro es una enciclopedia esencial para comprender no solo el capitalismo digital sino el siglo XXI. ~
Ricardo Dudda (Madrid, 1992) es periodista y miembro de la redacciรณn de Letras Libres. Es autor de 'Mi padre alemรกn' (Libros del Asteroide, 2023).
