“La forma esencial de poder de las redes está en su capacidad para modelar la mente humana, si no conocemos las formas de poder en la sociedad red, no podremos neutralizar el ejercicio injusto de dicho poder; y si no sabemos exactamente quiénes tienen el poder y dónde encontrarlos, no podremos desafiar su oculta pero decisiva dominación”

Manuel Castells. Comunicación y Poder 2009

El Dilema de las Redes es un documento reciente de Netflix sobre cómo las redes sociales están causando daños no intencionales a las personas y la sociedad. Es una película interesante y controvertida que vale la pena ver para que puedas formarte tu propia opinión.

Yo he visto el documental por sugerencia de una de mis cuñadas favoritas que había visto el documental en Netflix y me comentó: “míratelo cuando puedas en algún momento, me gustaría tener tu opinión”. “Lo miro y hablamos”, le contesté. Así que he aprovechado el puente para verlo, y hoy comparto con Graci y todos vosotros mis puntos de vista sobre la película.

En la película el cineasta Jeff Orlowski entrevista a un elenco de líderes tecnológicos, incluido Tristan Harris ex especialista en ética del diseño en Google de Facebook, Tim Kendall, anterior Presidente de Pinterest y otros tecnólogos, quienes ofrecen con franqueza sus ideas y comparten sus preocupaciones sobre las redes sociales y el daño que, en su opinión, están causando a la sociedad.

Tristan Harris, es la fuerza impulsora de la narrativa y es el quien señala que el “dilema” es que las redes sociales y las aplicaciones relacionadas ofrecen simultáneamente utopía y distopía. En palabras sencillas, tienen cosas malas y cosas buenas, sacan lo mejor y lo peor de la sociedad. Sin duda alguna, las redes sociales nos aportan grandes beneficios, en términos de mantenernos conectados con nuestros seres queridos, amigos y comunidad, compartiendo información, preferencias y sentimientos. La cuestión es ¿a qué precio?.

Esta, en mi opinión, es la parte verdaderamente inquietante de la película, conocer hasta qué punto Facebook y las demás compañías están dispuestas a llegar, con tal de captar nuestra atención que es la base de su crecimiento y modelo económico. “Si el producto es gratis, usted es el producto”, nos recuerda Harris. Y aunque la mayoría de las personas saben que el modelo de negocio de empresas como Facebook, Twitter, Instagram, o YouTube, se basa esencialmente en captar nuestra atención, mantenernos conectados a su plataforma el mayor tiempo posible, y monetizar nuestra atención con anuncios. Pocas personas son conscientes del nivel de manipulación y sus consecuencias, y si crees que el coste es simplemente obtener anuncios específicos para tus series favoritas, el documental te reserva una gran sorpresa.

Más allá de alarmismo que puedan tener algunas imágenes y la música casi digna de un thriller de Hitchcock, el documental examina en detalle y pone en evidencia el funcionamiento de los mecanismos de creación de poder en las redes sociales, y se presenta como una advertencia urgente sobre el riesgo que corre nuestra democracia si no logramos cambiar el rumbo de la nueva economía de la atención.

Si tal como afirma Castells, la forma esencial de poder en la Sociedad Red está en la capacidad para modelar la mente, la batalla primordial para la definición de las normas de la sociedad y la aplicación de dichas normas a la vida diaria gira en torno al modelado de la mente. Y, sin duda alguna como ya hemos recogido en una reflexión anterior “Redarquía Social y generación democratica”, las redes sociales son fundamentales en esta lucha, ya que es mediante la comunicación como la mente humana interactúa con su entorno social y natural.

En el actual contexto tecnológico, las redes sociales van más allá de los medios tradicionales y han modificado profundamente las relaciones de poder. El hecho de que las plataformas de redes sociales estén tratando con un producto adictivo, y la manipulación deliberada del cerebro humano es preocupante por dos razones simples. En primer lugar, las redes sociales son persuasivas y en segundo lugar son de uso generalizado entre nuestros jóvenes. A medida que continuamos ahogándonos en un exceso de estímulos que intentan captar nuestra atención, quizás debamos pararnos un momento para concentrarnos en prestar atención al lado más oscuro de las redes sociales.  Aquello a lo que nuestros jóvenes prestan atención cada minuto de sus vidas.

Lo saben todo: absolutamente todo

Lo que el documental quiere que sepamos es que lo saben todo, absolutamente todo acerca de nosotros. “Todo lo que hacemos desde cualquier dispositivo se ve, se realiza un seguimiento, se mide todo. Cada acción que realizamos se supervisa y registra cuidadosamente. En que imagen te detienes, si es tu novia, un  excompañero, o un amigo y registran durante cuánto tiempo la miras. Saben cuando la gente se siente sola. Saben cuando la gente está deprimida. Si eres introvertido o extrovertido o que tipo de neurosis tienes. Saben lo que haces a altas horas de la noche. Que videos ves, cuanto duermes. “Ellos lo saben todo”.

Y con ello construyen un modelo cada vez más preciso de nuestras emociones y comportamientos, de forma que pueden predecir el tipo de cosas que hacemos y como llevarnos y mantenernos atentos a su plataforma. Puedo predecir qué tipo de videos te mantendrán mirando, y qué tipo de emociones tienden a desencadenarlo. “Han creado toda una generación global de personas que se han criado en un contexto donde el significado mismo de la comunicación, el significado mismo de la cultura, es la manipulación”. Estas empresas han puesto sus plataformas en el centro absoluto de todo lo que hacemos.

La atención como moneda

El término “economía de la atención” fue acuñado por el psicólogo, economista y premio Nobel Herbert A. Simon, quien postuló que la atención era el “cuello de botella del pensamiento humano” que limita tanto lo que podemos percibir en entornos estimulantes como lo que podemos hacer. En otras palabras, una gran cantidad de información crea una pobreza de atención. La información no es escasa, la atención sí. Nuestra atención hoy más que nunca es limitada, valiosa, y escasa.

Cada vez tenemos más acceso a más información y, sin embargo, nuestra capacidad de atención no aumenta. En este escenario, empresas y particulares se esfuerzan por captarla y monetizarla. Eso es lo que denominamos economía de la atención.

Y este es el problema, las plataformas sociales generan miles de millones de dólares manteniéndonos conectados, haciendo clics, visualizando contenidos y compartiendo nuestros temas favoritos. La carrera desenfrenada y carente de principios éticos por nuestra atención rompe la verdad, polariza la sociedad, manipula nuestras elecciones, daña la salud de nuestros jóvenes y desestabiliza nuestras comunidades y la democracia en general. En palabras de Harris “Así como un árbol vale más como madera y una ballena vale más muerta que viva, en la economía de la atención, como seres humanos valemos más cuando estamos deprimidos, indignados, polarizados y adictos”.

La programación de los comportamientos

El documental es muy impactante cuando explora los medios por los cuales las empresas tecnológicas utilizan la vulnerabilidad humana, particularmente los sesgos cognitivos y las tecnologías persuasivas para alimentar la adicción a sus plataformas, especialmente entre los usuarios jóvenes. En palabras uno de los primeros líderes de “Growth Hacking” en Facebook, Chamath Palihapitiya, “Seleccionamos nuestros contenidos e interacciones en torno a este sentido percibido de perfección porque somos recompensados con señales a corto plazo: corazones, me gusta, pulgares arriba. Y asociamos todo ello con valor y con la verdad, lo que es una popularidad falsa y frágil”. 

Cada vez que abrimos nuestro teléfono, tenemos que luchar inconscientemente con poderosos algoritmos, y técnicas de diseño persuasivo suficientemente sofisticadas para mantener nuestra adicción. La gente piensa que los algoritmos están diseñados para darles información relevante y útil, que  es lo que realmente quieren, pero no es así. Sus objetivos son maximizar el tiempo que estamos conectados cada día, hacer que regresemos cuanto antes, que invitemos a nuestros amigos y que ellos inviten a más amigos. El objetivo comercial último, es generar la mayor cantidad de dinero posible con la publicidad. Definitivamente nosotros somos el producto.

Desinformación y polarización

La película también pone en evidencia la creciente difusión de la desinformación, y cómo la estructura de las redes sociales afecta el grado de polarización política en la sociedad. La radicalización de los movimientos extremistas, como los supremacistas blancos en los Estados Unidos, la polarización política en muchos países europeos incluyendo el nuestro, y el uso propagandístico por parte de regímenes autoritarios en países como Filipinas, son solo unos pocos ejemplos donde estas plataformas tienen un coste social elevado en términos de calidad democrática y paz social.

Si solo seguimos en las redes a los que piensan como nosotros ya no tenemos necesidad de argumentar, ni de reflexionar ni de replantearnos nada. En este sentido se puede decir que cada uno en su “burbuja de filtros” construye el mundo que quiere ver. Como dijo Eric Schmidt, “será muy difícil para las personas ver o consumir algo que de alguna manera no ha sido diseñado para ellos”.

La pregunta más inquietante que plantea “El dilema social” es si la democracia puede sobrevivir a la confusión de hechos y polarización de la sociedad. “Imagínese un mundo en el que nadie crea lo que es verdad”.

La defensa de Facebook

Facebook, es la única compañía que ha publicado una respuesta oficial en el que explica siete razones por las que “The Social Dilemma” no dice la verdad. En su documento de defensa desmintiendo que sus productos estén diseñados para que sean adictivos, y explicando que aunque su modelo de negocio es publicitario, no revelan la identidad de sus usuarios a los anunciantes. Argumenta que sus algoritmos no son tan dañinos como dice el documental, si no que buscan que los contenidos sean “útiles y relevantes” para los usuarios. Y respecto a las denuncias de los peligros de desinformación dice que han invertido estos últimos años mucho dinero para garantizar la imparcialidad en los procesos electorales, y que luchan cada día contra las noticias falsas y los discursos de odio. En la película la mayoría de los entrevistados son reacios a etiquetar directamente a Mark Zuckerberg, o a cualquier otro ejecutivo, como responsable de las consecuencias negativas de las redes sociales, prefiriendo presentar a las plataformas tecnológicas como víctimas de su propio éxito, atrapadas en un modelo de negocio que genera miles de millones de dólares manteniéndonos haciendo clic, conectados y compartiendo. Juzguen ustedes mismos.

La necesidad de Reprogramar las redes sociales

Aunque no he dejado de estar preocupado todos estos años, como muchos de vosotros, por las implicaciones éticas de las redes sociales. Creo que fuimos ingenuos sobre la otra cara de esa moneda. Y la forma en que las plataformas sociales están usando las tecnologías persuasivas, es bastante diferente de lo que se esperaba.

Nadie, creo, tuvo la intención de alguna de estas consecuencias. Pero comparto, en gran medida las denuncias del documental, y creo que las evidencias que presenta en relación con los efectos negativos  de las redes sociales en términos de  adicción de nuestros jóvenes, manipulación de nuestros sentimientos, polarización social y desinformación generalizada. Claramente están erosionando nuestro tejido social y representan un peligro para la democracia. Os animo a verlo y sacar vuestras propias conclusiones.

¿Que hacer?. Siguiendo con la tesis de Castells, si la forma esencial de poder de las redes está en su capacidad para modelar la mente humana, y este poder se ejerce mediante la programación e interconexión de redes. Necesariamente tenemos que reprogramar las redes, en torno a principios éticos, e intereses y valores
 humanistas alternativos.

Tal como propone el Centro para la Tecnología Humana (CHT), necesitamos unas plataformas sociales y modelos comerciales radicalmente nuevos que realmente se alineen con los mejores intereses de la humanidad. Debemos reprogramar nuestras redes y parar cuanto antes esta economía de la atención que está acelerando la degradación masiva de nuestra sociedad y limitando nuestra capacidad colectiva para resolver las amenazas globales, desde pandemias hasta la desigualdad y el cambio climático. “Si no podemos darle sentido al mundo mientras tomamos decisiones cada vez más importantes en una sociedad global, estamos arriesgando el futuro de nuestros hijos, la democracia y la verdad misma”.

No será una tarea fácil, es un desafío colectivo que requiere apelar a lo mejor de nuestra naturaleza humana para desarrollar nuevas redes sociales abiertas e independientes, en bases a valores éticos compartidos que nos permitan asegurar un futuro brillante para nuestros hijos que les permita encontrar un propósito renovado en sus vidas, en base a sus sueños, lo que aman, y desean hacer con sus vidas incluyendo sus sus preocupaciones y miedos. Nuestro compromiso colectivo ha de ser asegurarnos que sus vidas no estén sujeto a la manipulación e intereses económicos de  unos pocos.

Mientras las reprogramamos, a nivel social deberíamos debatir seriamente la necesidad de regular las plataformas de redes sociales. Tal como argumenta el documental, no hay ninguna razón fiscal o económica para que estas empresas cambien sus algoritmos o se auto-regulen. “Al igual que una empresa química que tiene que cumplir con las regulaciones ambientales, el costo social asociado con las plataformas de redes sociales debe controlarse para mitigar sus peores efectos.”

A nivel personal más allá de conocer los daños, debemos aprender a protegernos y proteger a nuestros jóvenes. Protegiendo nuestra atención, restaurando la verdad, y fortaleciendo nuestra democracia. Asegúranos de obtener muchos tipos diferentes de información y seguir a gente con la que no estás de acuerdo, es la mejor manera de combatir la disonancia cognitiva. Fijando un límite al tiempo que pasamos frente a una pantalla, dejar los móviles en momentos específicos, como cuando estamos en familia, comiendo o cuando vamos a dormir es son maneras práctica de controlar a que dedicamos nuestra atención. Es algo que deberíamos hacer desde ahora mismo.

Leave a Reply

%d bloggers like this: