por James Bridle
Las empresas tecnológicas quieren controlar todos los aspectos de lo que hacemos, con fines lucrativos. Un libro audaz e impactante identifica nuestra nueva era del capitalismo
Suena la alarma junto a tu cama, activada por un evento de tu calendario. El termostato inteligente de tu dormitorio, al detectar tu movimiento, abre el agua caliente e informa de tus movimientos a una base de datos central. Las noticias se actualizan en tu teléfono, con tu decisión diaria de hacer clic en ellas o no cuidadosamente monitorizada, y los parámetros ajustados en consecuencia. La distancia y el trayecto de tu carrera matutina, las condiciones de tu viaje al trabajo, el contenido de tus mensajes de texto, las palabras que pronuncias en tu propia casa y tus acciones bajo las cámaras que todo lo ven, el contenido de tu cesta de la compra, tus compras impulsivas, tus búsquedas especulativas y la elección de citas y parejas: todo ello registrado, convertido en datos, procesado, analizado, comprado, empaquetado y revendido como hipotecas de alto riesgo. La letanía de experiencias apropiadas se repite tan a menudo y tan extensamente que nos insensibilizamos, olvidando que no se trata de una imaginación distópica del futuro, sino del presente.
Mientras insisten en que su tecnología es demasiado compleja para ser legislada, las empresas gastan miles de millones en presionar contra la supervisión.
Google, que en un principio pretendía organizar todo el conocimiento humano, ha acabado controlando todo el acceso a él. Facebook, que sólo pretendía conectarnos, se ha hecho con nuestros secretos más profundos. Y al tratar de sobrevivir comercialmente más allá de sus objetivos iniciales, estas empresas se dieron cuenta de que estaban sentadas sobre un nuevo tipo de activo: nuestro «excedente de comportamiento», la totalidad de la información sobre cada uno de nuestros pensamientos, palabras y actos, que podría ser objeto de comercio para obtener beneficios en nuevos mercados basados en la predicción de cada una de nuestras necesidades, o en su producción. En un acto de tal audacia que puede compararse con la apropiación de los bienes comunes o las conquistas coloniales, los gigantes de la tecnología declararon unilateralmente que estos recursos hasta entonces inexplotados eran suyos y dejaron de lado cualquier objeción. Mientras insisten en que su tecnología es demasiado compleja para ser legislada, hay empresas que han invertido miles de millones en grupos de presión contra la supervisión, y mientras construyen imperios sobre datos financiados con fondos públicos y los detalles de nuestras vidas privadas, han rechazado repetidamente las normas establecidas de responsabilidad social y rendición de cuentas. Y lo que es crucialmente diferente de esta nueva forma de explotación y excepcionalismo es que, más allá de limitarse a despojarnos de nuestra vida íntima, pretende moldearla, dirigirla y controlarla. Sus operaciones transponen el control total sobre la producción iniciado por el capitalismo industrial a todos los aspectos de la vida cotidiana.
La extracción es tan grotesca, tan espeluznante, que es casi imposible ver cómo alguien que realmente piensa en ello vive con ello – y sin embargo lo hacemos. Hay algo en su opacidad, en su insidia, que hace difícil pensar en ello, igual que es difícil pensar en el cambio climático, un proceso que inevitablemente deshará la sociedad tal y como la entendemos actualmente, pero que muchos de nosotros experimentamos como un tiempo ligeramente mejor. Del mismo modo, las ventajas de los resultados de búsqueda más rápidos y las indicaciones paso a paso enmascaran las depredaciones más profundas y destructivas de lo que Shoshana Zuboff denomina «capitalismo de la vigilancia», una fuerza tan profundamente antidemocrática como explotadora que, sin embargo, apenas se comprende. Como detalla en su importante nuevo libro, la ignorancia de su funcionamiento es una de las estrategias centrales de este régimen y, sin embargo, la marea está cambiando: cada vez más personas expresan su malestar por la economía de la vigilancia y, perturbadas por la esfera social díscola, alienada y desconfiada que genera, buscan alternativas. Será un proceso largo, lento y difícil liberarnos de los productos tóxicos tanto del capitalismo industrial como del capitalismo de la vigilancia, pero su causa se ve favorecida por el análisis de peso que proporcionan libros como éste. Combinando un profundo conocimiento técnico y un amplio alcance humanista, Zuboff ha escrito lo que puede resultar ser el primer relato definitivo de la condición económica -y, por tanto, social y política- de nuestra era.
Zuboff no es ajeno a este territorio. En su libro de 1988 In the Age of the Smart Machine (En la era de la máquina inteligente), abordó en el momento de su aparición en el mundo empresarial muchas de las cuestiones que han llegado a dominar nuestra vida cotidiana. Integrada en una gran empresa farmacéutica en la década de 1980, observó de primera mano cómo las nuevas herramientas de comunicación interna, primero acogidas por los empleados como novedosos espacios sociales en los que podían conversar mejor, planificar y acceder a la información, fueron reconocidas poco a poco como instrumentos de intrusión y control por parte de la dirección. Aspectos de la experiencia personal de los empleados que eran implícitos y privados se convirtieron de repente en explícitos y públicos, se expusieron al escrutinio y se convirtieron en la base de la evaluación, la crítica y el castigo. Ahora es el interior de todas nuestras vidas el que está expuesto a supervisores invisibles, que no se limitan a sacar provecho de nuestras acciones, sino que controlan cada vez más todas sus expresiones.
Los jugadores creen que están jugando a un juego -coleccionar Pokémon- cuando en realidad son peones de otro totalmente distinto.
Consideremos el juego Pokémon Go, aparentemente benigno, un ejemplo ridículo y transparente de la relación entre el conductismo desmedido y el control físico. Aunque sus jugadores iniciales alabaron el juego por incitarles a salir al «mundo real», en realidad se tropezaron directamente con una realidad totalmente fabricada, basada en años de condicionamiento de la conducta humana mediante sistemas de recompensa y diseñada para dirigir a sus usuarios hacia oportunidades comerciales. Pocos días después del lanzamiento del juego en 2016, sus creadores revelaron que atractivas ubicaciones virtuales estaban a la venta al mejor postor, cerrando rentables acuerdos con McDonald’s, Starbucks y otros para dirigir a los cazadores de Pokémon a sus puertas. Los jugadores creen que están jugando a un juego -coleccionar Pokémon- cuando en realidad están jugando a otro totalmente distinto, en el que el tablero es invisible pero ellos son los peones. Y Pokémon Go no es más que una pequeña sonda que se extiende desde las vastas capacidades de Google y otros para sintonizar y manipular la acción humana a escala: un medio global de modificación del comportamiento totalmente propiedad de una empresa privada y operado por ella.
La eficacia de Pokémon Go para impulsar y dirigir el comportamiento humano no recuerda a nada con tanta fuerza como al desarrollo del condicionamiento operante por parte del psicólogo BF Skinner, y Skinner es una de las muchas figuras que Zuboff evoca, implica y critica en su relato. Skinner desarrolló y perfeccionó una tecnología de modificación del comportamiento en organismos vivos, y extrapoló de ella una política basada en el control social total. Publicado en 1971, su incendiario tratado Más allá de la libertad y la dignidad prescribía un futuro de modificación y reorientación del comportamiento que rechazaba la idea misma de libertad, sustituyéndola por resultados garantizados y conformidad individual. Pero mientras que en el siglo XX los objetivos del condicionamiento operante eran siempre «ellos» -enemigos, prisioneros e inadaptados sociales- y sus implicaciones eran objeto de repulsión y rechazo por parte de un público temeroso del «control mental», hoy los objetivos de la misma lógica somos todos nosotros, y sus posibilidades han sido adoptadas al más alto nivel, desde los consejos de administración de las empresas más poderosas hasta los gobiernos que buscan tanto «empujar» a sus poblaciones hacia decisiones «mejores», como vigilar sus estados de ánimo y deseos internos en busca de cualquier signo de desviación, disidencia o intención radical.
Para Zuboff, esta fuerza temible no es simplemente una expresión superior del capitalismo, sino una perversión del mismo, y aunque algunos podrían considerarlo un alegato especial, ella se esfuerza por aclarar en qué se diferencia de formas más equitativas y mutuamente beneficiosas. Como consecuencia de situar su análisis dentro de la teoría económica y de una historia más amplia tanto del capitalismo como del totalitarismo, introduce una serie de términos útiles en el debate que contribuyen en gran medida a hacerlo avanzar. Gran parte del debate en torno a Google, Facebook y sus similares, por ejemplo, se ha enmarcado en términos de privacidad -como mero control de la información sobre uno mismo- y aunque muchos de estos argumentos son venerables y están bien articulados, también se han perdido en su mayor parte. Parece que la gente está muy dispuesta a ceder su información privada a cambio de ventajas percibidas como la facilidad de uso, la navegación y el acceso a amigos e información. Zuboff replantea el debate sobre la privacidad como un debate sobre los «derechos de decisión»: el poder que podemos ejercer activamente sobre nuestro propio futuro, usurpado fundamentalmente por sistemas predictivos basados en datos. Comprometerse con los sistemas del capitalismo de la vigilancia y aceptar sus exigencias de incursiones cada vez más profundas en la vida cotidiana implica mucho más que la entrega de información: es entregar todo el registro de la propia vida, la determinación del propio camino, bajo el ámbito y el control del mercado, del mismo modo que los jugadores de Pokémon Go son conducidos, iluminados por sus pantallas brillantes, directamente a través de las puertas de tiendas que ni siquiera sabían que querían visitar.
Cuando esta lógica de coacción invisible se aplica a la esfera social, sus implicaciones son aún más inquietantes. La creencia de que el comportamiento humano puede modelarse, predecirse y controlarse a la perfección conlleva como consecuencia el colapso de las relaciones equitativas entre individuos y de la confianza en las instituciones, y la sustitución de cualquier atisbo de sociedad participativa y democrática por la certidumbre algorítmica. Esta supuesta perfección del comportamiento humano no apela a la toma de decisiones colectiva e impugnable ni a las prácticas empresariales responsables. El capitalismo de la vigilancia, ejecutado como código de la vida cotidiana, borra tanto el libre albedrío como el libre mercado, un resultado que horroriza tanto a los creyentes convencidos en el «viejo» capitalismo, como Zuboff, como a los que no estábamos tan seguros del original.
Lo que se insinúa a lo largo del texto, y se hace explícito en la insistencia final de Zuboff en que las generaciones posteriores deben hacer frente a este desafío trascendental para el futuro, es que tales esquemas utópicos están destinados al fracaso. Como ha demostrado la experiencia, el mundo -la vida misma- es turbio, contingente y se define por el cambio. Por horrible que pueda ser la visión de los capitalistas de la vigilancia de un futuro totalmente controlado, perfectamente articulado y libre de errores, quizá lo sea más el inevitable fracaso de su visión y la violencia resultante, ya evidente en nuestras visiones fracturadas del mundo, los fundamentalismos enfrentados, el debilitamiento de los vínculos sociales y la desconfianza de unos hacia otros. El trabajo comienza con la demolición del marco de este orden mundial, pero continúa con el establecimiento y la promulgación de futuros nuevos y mejores.
—————-
Lectura de un fragmento del libro:
La era del capitalismo de la vigilancia
La lucha por un futuro humano frente a las nuevas fronteras del poder
de Shoshana Zuboff
————–