"Necesitamos algoritmos que privilegien la calidad"

Nicco Mele es el director del Shorenstein Center on Media, Politics and Public Policy, centro de investigación académica de la Kennedy School of Government. Estuvo en España a principios de junio y le pedimos a Manuel Muñiz, decano de la Escuela de Asuntos Globales y Públicos del Instituto de Empresa, que mantuviera una conversación con él sobre la intersección que se produce entre la tecnología, la política, las políticas públicas y las relaciones internacionales. Éste es el resultado. Aprovechamos para agradecer las gestiones que realizó la Embajada de Estados Unidos en España para que esta conversación fuera posible. 

Pregunta.- Mirando hacia atrás, ¿cuáles son los casos más grandes o más interesantes que ha estudiado sobre la desinformación y qué patrones encuentra? ¿Y cuán impactantes cree que fueron esas acciones, estrategias o casos de desinformación en términos de afectar realmente los resultados políticos?

Respuesta.- Hay dos preguntas principales sobre la desinformación y las redes sociales. La primera es su prevalencia, cómo de extendida está. El segundo es el impacto: ¿importa? Creo que, en el primero, sobre la prevalencia, estamos teniendo dificultades para entenderlo porque las redes sociales (Facebook, YouTube, Twitter) son opacas. En realidad, no lo sabemos, no tenemos datos suficientes para establecer de forma clara la extensión del problema. Pero en virtud de los disponibles, de lo que podemos ver, los flujos de información de los medios sociales, especialmente en torno a la política, están muy contaminados, llenos de un cúmulo significativo de desinformación.

[Recibe diariamente los análisis de más actualidad en tu correo electrónico o en tu teléfono a través de nuestro canal de Telegram]?

Sin embargo, un resultado claro de nuestra investigación (recomiendo el libro Network Propaganda, de Robert Faris y Yochai Benkler) es que en la desinformación una de las cosas más importantes es la amplificación de los medios de comunicación convencionales. La semana pasada vimos un vídeo real de Nancy Pelosi que había sido ralentizado y manipulado, y hubo muchos que dijeron cosas como que estaba borracha o que había tenido un derrame cerebral, que por supuesto eran falsas. Pero no llegó a una audiencia significativa hasta que los principales medios recogieron la historia y la amplificaron.

En la desinformación, una de las cosas más importantes es la amplificación de los medios convencionales

Hace unos 14 años, alguien envió un correo electrónico que decía que Barack Obama es musulmán nacido fuera de Estados Unidos The Washington Post calcula que 100 millones de estadounidenses leyeron ese correo electrónico. La desinformación está bastante bien estudiada en este sentido, y sabemos lo siguiente: en primer lugar, sabemos que al cerebro le gustan los rumores y los chismes. Los rumores son muy pegajosos para el cerebro. Pero lo segundo que sabemos es que las rectificaciones son contraproducentes. Si te dijera que Barack Obama es musulmán es falso, ¿qué recordarías dos días después? Que es musulmán. Olvidas la parte falsa. Y eso es parte del desafío que nos plantea la amplificación y los medios de masas: incluso con el desmentido puede extenderse más ampliamente.

Las rectificaciones son contraproducentes

P.- ¿Cuáles son las estrategias para combatir la desinformación? Tuvimos una reunión aquí con la gente del Ministerio de Asuntos Exteriores del Reino Unido, que está luchando contra esto, y se han dado cuenta precisamente de que cuando han tratado de desacreditar, les ha salido el tiro por la culata, porque han difundido la desinformación más allá, así que lo que ahora están tratando de hacer es deslegitimar los canales de la información. Están tratando de mostrar los caminos por los que se origina: cuán nuevos son estos sitios web, la geolocalización de algunas de las fuentes de esta información…. Porque afirman que la deslegitimación del proceso obstaculiza automáticamente la resiliencia de la información. Así que, en lugar de entrar en cada uno de estos casos o en los más significativos y tratar de desacreditar la sustancia de la información, ahora están atacando a su fuente. Dada su experiencia en esta área, cuando estudia las estrategias para abordar este problema, ¿qué cree que es efectivo y qué no lo es?

R.- Tenemos que poner a prueba estas cosas, pero soy escéptico de que la estrategia que acaba de describir funcione. Creo que hay tres cosas que sabemos que sí lo hacen: una es tratar de privilegiar o promover información de calidad, medios de comunicación de calidad. Desafortunadamente, su modelo de negocio está en caída libre total, en colapso absoluto. Hay menos noticias en los Estados Unidos que hace 10 años. La fuerza laboral de los periodistas es aproximadamente una cuarta parte de lo que era hace 15 años. Así que necesitamos más noticias de calidad. Parte de lo que está sucediendo es que las 'noticias chatarra' están llenando un vacío. Y luego necesitamos algoritmos que privilegien la calidad. La mayoría de los algoritmos, en la actualidad, están diseñados para medir y privilegiar la confianza, no la calidad. Y eso es porque la calidad y la verdad son mucho más difíciles de medir; es mucho más fácil medir la confianza.

Tratemos de privilegiar o promover información de calidad, medios de comunicación de calidad

P.- ¿Cuál es la diferencia, a largo plazo?

R.- Le daré un ejemplo. Lo que hace que la búsqueda de Google sea mucho mejor que cualquier otra cosa fue el algoritmo Page Rank. Y el rango de una página es un secreto comercial. Dicen que hay 200 variables diferentes y unas 10.000 sub-variables, pero sabemos que, desde el primer día, ha habido una que es mucho más importante que las demás, y es la de los enlaces entrantes. El número de sitios web que enlazan a su sitio web es una medida de la autoridad de su página. Cuando escribo un blog y enlazo con su sitio web, le otorgo una cierta autoridad. Estoy diciendo que confío en usted. Por lo tanto, los sitios web que tienen muchos enlaces entrantes son considerados de confianza.

Ahora, usted podría tener un sitio web que dice que Barack Obama es un musulmán nacido fuera de los Estados Unidos y miles de sitios web enlazados a él, y eso le daría una gran cantidad de autoridad, sería muy confiable. Y eso sucede todo el tiempo en torno al cambio climático, en torno a las vacunas. Éste es un problema real para los algoritmos que miden la confianza en lugar de la calidad.

Por lo tanto, la primera estrategia es que necesitamos más noticias de calidad y debemos privilegiarlas. La segunda se refiere directamente a las correcciones. Decir que 'Obama es musulmán' es una mentira sabemos que no funciona. En su lugar, debemos tener narrativas alternativas. Entrevisté a los padrinos de Barack Obama, mira estas fotos de la iglesia donde fue bautizado. Y el problema es que nuestros medios de comunicación están atrapados en una o dos maneras de contar historias. Muchos de ellos giran en torno a un protagonista y un antagonista, y muchos de ellos en torno a 'gotcha' (te pillé), y eso no es así. Si vamos a corregir la desinformación, tenemos que romper esta tendencia, encontrar nuevas formas de contar historias o, al menos, formas diferentes que no siempre son nuevas. Tenemos que ser diversos tipos de narradores, porque las correcciones no funcionan.

P.- Entonces, es escéptico sobre el ecosistema que está surgiendo en torno a la verificación de los hechos.

R.- Creo que es importante hacerlo para que conste, pero no creo que cambie nada, que mitigue la propagación de la desinformación. Pero es posible que desincentive a la gente para que no se la crea en el futuro. Hay buenas razones para hacerlo, pero no resuelve el problema inmediato.

La tercera cuestión es la más complicada: tenemos que buscar la autoridad como algo primordial. Otra forma de decirlo es que nos identificamos en dos tribus y no confiamos en la otra. Si creo que Fox News es terrible, nunca voy a creer nada de lo que dice, incluso si pienso que podría ser verdad. Si creo que The New York Times es terrible, nunca voy a creer nada de lo que diga, aunque sea verdad. Por lo tanto, la credibilidad de la fuente se vuelve realmente esencial. La confianza en las instituciones y en los líderes públicos ha estado en declive en las democracias occidentales durante los últimos 30 años, y creo que está convirtiéndose en una crisis real. Y los algoritmos, en cierto modo, amplifican esa desconfianza. Hacen más difícil conectarse con puntos de vista alternativos y abrirse a nuevas formas de pensar. Así que lo más difícil es cómo conseguir que los líderes de todos los campos sean más abiertos, que cambien su lenguaje, que se comprometan más honestamente con la oposición. Es, probablemente, lo que tendría más impacto.

Los algoritmos amplifican la desconfianza en las instituciones y en los líderes públicos. Hacen más difícil conectarse con puntos de vista alternativos y abrirse a nuevas formas de pensar

P.- Esto conecta con algo que usted planteó antes acerca de que las redes y las nuevas plataformas no son transparentes: tal vez ni siquiera son conscientes, en algunos casos, de la cantidad de desinformación que corre por ellas.

R.- Creo que sí lo saben.

P.- Por lo tanto, ¿qué papel cree que deberían desempeñar estas plataformas para avanzar en la comprensión, evaluación, control y contención de la desinformación? Quiero decir, me pregunto si están completamente fuera de juego o….

R.- No quiero ser simplista sobre esto, porque hay algunos desafíos más. En primer lugar, las plataformas han decidido que ciertas cosas no están permitidas, como la pornografía infantil. Nadie cree que sea una buena idea. Pero cuanto más te alejas de las normas compartidas, más difícil se vuelve, especialmente en un escenario global. Lo que podría ser culturalmente apropiado en Estados Unidos podría no serlo en Indonesia. ¿Y es Facebook la que va a decidirlo?

Hay una realidad que es la globalización y la interconexión del mundo. Si quiero poder enviar un mensaje de WhatsApp desde mi casa en Boston a mi amigo en Indonesia, ¿quiero que los controles culturales indonesios evalúen si ese mensaje es apropiado? No sé si es una buena idea. En relación con la globalización, vamos a vernos obligados a enfrentarnos, como nunca antes por la interconexión de la red, al choque entre los valores fundamentales y las diferencias entre culturas. No quiero decir con eso que esas diferencias sean intratables. Sólo tenemos algunas cuestiones fundamentales.

P.- Porque en los medios de comunicación tradicionales fueron mediados por…

R.- Distancia. Distancia geográfica, o por idioma.

La segunda cuestión es…. por ejemplo, Facebook es una empresa bastante pequeña en comparación con su alcance global. Aproximadamente 2.500 millones de personas utilizan un producto de esta empresa (WhatsApp, Instagram, Messenger, Facebook) casi todos los días. Y eso es casi la mitad de la población mundial utilizando el medio de comunicación de una sola empresa. ¿Y qué tiene, 35.000 empleados? En realidad, no es una empresa muy grande en comparación con el alcance y la escala de su poder. Y eso crea un verdadero dilema. Si usted fuera a diseñar un modelo, ¿cómo sería el régimen de moderación que pudiera hacer algunas concesiones para diferentes partes del mundo? Eso puede ser demasiado caro para la compañía.

P.- ¿Qué están haciendo, en su opinión? ¿El sector está más regulado? ¿Ve alguna forma de autorregulación por su parte? Si tuviera que dibujar cómo se verá esto en el futuro, ¿los ve vigilando su contenido de manera más efectiva? ¿Prohibir ciertos contenidos? ¿Cambiando la forma en que funcionan sus algoritmos? Quiero decir, hasta cierto punto ya lo han hecho, por la forma en que dan prioridad a las noticias sobre las fuentes personales. Pero, ¿hay un impulso general? ¿Dónde están asumiendo más responsabilidad por este contenido? ¿Se están convirtiendo en medios de comunicación? Porque la gente ha visto las audiencias en el Congreso, su incapacidad para gestionar el contenido que se publica en sus webs, pero parece que hay una reflexión tanto en el sector público como en estas plataformas. ¿Hacia dónde cree que va esto en términos generales?

R.- Va claramente hacia la regulación. De hecho, creo que ya lo ha hecho. Europa ha liderado el camino con el Reglamento General de Protección de Datos (GDPR) y, si quiere que le diga la verdad, creo que es un ejemplo del declive de la influencia global de Estados Unidos. Éste es uno de los primeros asuntos políticos en décadas en el que Estados Unidos no ha sido líder. Recientemente, cuando la UE y la FCC aprobaron las legislaciones sobre la neutralidad de la red, la Administración Obama estableció un estándar global que fue adoptado, con modificaciones, en muchas otras partes del mundo. Y ahora vamos a ver que el GDPR de la UE se convertirá esencialmente en un estándar global.

La protección de datos de la UE se convertirá en un estándar global

El GDPR es bastante interesante, porque plantea desafíos técnicos en unas empresas que, fundamentalmente, hacen dinero con nuestros datos: qué hago cuando estoy en línea lo convierten en opciones para que los anunciantes lleguen a mí, y así se monetiza mi comportamiento, mis hábitos en línea. Utilizo el servicio de forma gratuita, pero pago por él vendiendo mis hábitos y mis datos a los anunciantes. Pero el GDPR tiene como principio que los usuarios necesitan más control de sus propios datos, y que el péndulo giró demasiado en una dirección. Y eso puede adquirir muchas formas regulatorias potenciales, pero en la raíz de todo esto está quién posee los datos. El GDPR dice que los usuarios necesitan un mayor control sobre ellos.

P.- Hay un debate creciente sobre esta noción de que los datos no son sólo un subproducto de nuestras actividades, sino un factor de producción, por lo que algunos economistas dicen que está siendo expropiado sin pagar al propietario. Es revolucionario. En economía, las mayores peleas han sido sobre quién es el dueño de los bienes de producción, así que si hay un cambio y dices que no, que no, que esto es parte de la propiedad de la gente, entonces necesitas delimitarlo legal y prácticamente.

R.- Hará unos 10 años, Rebecca Mackinnon escribió un libro llamado Consent of the Networked, en el que decía que si, en el sentido tradicional lockeano [del padre del liberalismo clásico John Locke], los gobiernos existen con el consentimiento de los gobernados, incluso las monarquías o las dictaduras, entonces las empresas digitales deben entender que su existencia se debe al consentimiento implícito de los que forman parte de la red. Y si todos en WhatsApp decidieran un día que WhatsApp, o Facebook, no es un buen intermediario, podrían cambiarse a una aplicación diferente a un coste casi nulo. Existe un cierto efecto de bloqueo de red pero, en última instancia, creo que estas empresas tienen que ser sensibles a su base de consumidores. Pero eso también se complica, porque a veces la parte más activa de la base de consumidores no es la más importante.

Asimismo, los datos como medios de producción son bastante importantes cuando miramos hacia el aprendizaje automático en inteligencia artificial. Esencialmente, su eficacia depende directamente del volumen de datos con el que la máquina tiene que aprender, por lo que las empresas que recojan mayor cantidad tendrán una ventaja casi insuperable en el futuro. Y cuando digo en el futuro, me refiero a los próximos 36 meses. Si pensamos en Facebook, Google y Amazon como los principales recolectores de datos, creo que hay un caso por resolver. El volumen de datos que han recopilado les otorga un monopolio virtual durante décadas.

P.- También hay mucha evidencia sobre la falta de distribución del crecimiento de la productividad, que parece que se está concentrando en empresas muy concretas. El desacoplamiento de la productividad salarial también es muy preocupante, y algunos dicen que es la concentración de los datos en determinadas manos lo que podría estar impulsándolo. Digamos que las compañías de datos necesitan pagar a sus clientes por ellos. Podría ser una cantidad significativa, particularmente con el aumento de la inteligencia artificial y la capacidad de generar mayores retornos.

En el debate sobre la productividad, la OCDE ha encontrado que algunas empresas en particular, que han sido llamadas frontier, han captado la mayor parte del crecimiento de la actividad durante los últimos 10 años. Se trata fundamentalmente de compañías que se benefician de los efectos de red de escala y de plataforma. Por lo tanto, existe esta tendencia oligopolística, si no monopolística, en los mercados digitales que está vinculada a los datos y a la capacidad de procesarlos y darles sentido. Esto va a poner a prueba la resistencia de nuestras instituciones y veremos si hay un movimiento real hacia la ruptura de estos monopolios. No sé si eso se hace a través de la portabilidad o directamente a través de la segregación con estas compañías. Pero hay algo que está 'engañando' la dinámica de los mercados.

Algunas empresas en particular, que han sido llamadas 'frontier', han captado la mayor parte del crecimiento de la actividad durante los últimos 10 años

P.- Mi opinión (por supuesto, centrada en los EE.UU.) es que en el régimen antimonopolio los últimos 40 años de jurisprudencia han restringido la propia definición de antimonopolio para perjudicar económicamente al consumidor. Y va a ser muy difícil argumentar que un servicio gratuito como Google o Facebook está causando suficiente daño al consumidor como para requerir una escisión una ruptura. El mejor argumento que se puede presentar en el contexto estadounidense es que están asfixiando la innovación, porque están comprando empresas para cerrar la competencia.

R.- Cuando pensamos en alternativas para romper, con el fin de limitar su poder monopolístico, pienso en un par de cosas importantes: una es que, tal vez, no necesiten abrir sus datos, pero que cualquiera pueda elaborar algoritmos de aprendizaje de máquina encima de ella. O tal vez se necesite que abran sus carteras de patentes y hacerlas más accesibles. Pero el deber de negociar generaría una mayor competencia, y también creo que una buena idea es una moratoria sobre las adquisiciones por parte de Facebook o Amazon. Eso podría hacer algunas cosas maravillosas. No obstante, vamos a examinarlo un poco más detenidamente para averiguar si hay otras empresas que debieran ser incluidas en ese tipo de moratoria.

P.- Asumiendo el riesgo de extender esta conversación a China… Por supuesto, se puede ser muy duro con las empresas de su jurisdicción en materia de defensa de la competencia, pero hay gigantes chinos que operan en mercados muy similares y que no están sometidos a esa presión. ¿Quién va a disgregar Amazon o Google cuando tienes a Alibaba y a todas estas compañías a las puertas?

Hay dos principios que no sobrevivirán juntos: uno es el de libre mercado y el de China a estos mercados. Y el otro es la libre competencia y la política antimonopolio. Porque si aplicamos ambas (es decir, como estamos haciendo con la fusión de Alstom Siemens), no estamos permitiendo que nazcan estos gigantes, pero se acumulará presión para que cualquiera elija una de estas dos opciones; porque si escoge las dos, los chinos acabarán ocupando nuestros mercados.

R.- Muy interesante, estoy de acuerdo contigo. Esto se va a poner muy peligroso. En cierto sentido, el orden mundial después de la Segunda Guerra Mundial está colapsando, pero no sabemos lo que nos espera. Dos observaciones en relación con esto: una es que una de las cosas más desconcertantes de Facebook es que WhatsApp no es rentable. En realidad no lo sabemos, porque es opaco y no te lo dicen, pero no parece serlo. Eso significa que la publicidad de Estados Unidos a sus consumidores en la plataforma de Facebook es efectivamente subvencionar a casi el resto del mundo de la mensajería y la comunicación. Y eso crea algunos incentivos realmente jodidos por todas partes. Me pregunto si es una buena idea.

Sobre el papel de las empresas chinas y, en términos generales, la agresiva expansión de la 5G de China, está muy difícil por su parte y tiene consecuencias globales a largo plazo, aunque sólo sea la vigilancia. En ese frente tenemos por delante algunos retos importantes. A veces, una gran parte de nuestra política se basa en la historia reciente, como en los últimos 60 o 75 años. Cuando pienso en el espacio y los mercados digitales, lo hago que una forma mucho más provocativa: mirando las políticas marítimas del siglo XVIII, donde los piratas y la piratería eran consideraciones importantes de seguridad nacional y económicas, y donde las relaciones entre las empresas privadas y los gobiernos estaban entrelazadas mucho más estrechamente. Y miras las cosas como los bucaneros, algún tipo de relación informal entre la piratería y los estados-nación. Creo que hay que intentar desarrollar una forma de pensar acerca de esto que no esté anclada en el orden posterior a la Segunda Guerra Mundial.

P.- Estás describiendo un ambiente anárquico, ¿verdad? Donde había pocas reglas. Quería preguntarle sobre el futuro cercano. Las elecciones de 2020 en Estados Unidos… ¿Puede evaluar la interferencia electoral en las elecciones presidenciales anteriores? ¿Se puede repetir? ¿Qué cree que ocurrirá en 2020 en EE.UU.? ¿Está preocupado por la desinformación?

R.- He leído el informe Mueller, la versión redactada, y está muy claro que, más allá de las sombras de la duda, hubo interferencia rusa en las elecciones de 2016. Lo que es mucho más opaco es si esa interferencia tuvo algún impacto, pero me atrevo a decir que no importa si lo tuvo o no. El alcance de la interferencia fue significativo y, por lo tanto, merece la adopción de medidas.

No veo que haya cambiado nada en el sistema que disuada a Rusia o a otras potencias de intentar interferir en las elecciones de 2020. No hay nada sobre Facebook, YouTube, Instagram y Twitter que haya cambiado, ninguna evidencia de que se haya desincentivado esta actividad. No ha habido ninguna consecuencia desde el punto de vista de la seguridad nacional, así que, ¿qué es lo que ha cambiado?

P.- ¿Qué hay de la estrategia global? ¿Existe una lógica para esta interferencia activa? Estuve con el jefe de la oficina de la Unión Europea que se creó para luchar contra la desinformación, y dijo, mira, el objetivo final es que perdamos la fe en nuestra capacidad de obtener verdades objetivas para el debate público. Entonces, es realmente anti-iluminación. Es profundamente revolucionario, en el sentido de que busca socavar el sistema desde sus raíces. Así que algunas personas me decían, bueno, en realidad, si yo fuera ruso y ése fuera mi objetivo final, apoyaría a Trump y le permitiría crear más confusión y caos. Y es muy perturbador descubrir que la Casa Blanca está socavando aún más a las instituciones de intermediación, está haciendo el trabajo desde dentro. Entonces, decían, bueno, lo que probablemente haría si estuviera en Rusia sería hacer que Trump perdiera por un tiempo, porque se le dijo que luchara contra la legitimidad de tal resultado. Si pintaras con pinceladas gruesas, ¿estarías de acuerdo con esa valoración? ¿Es ésa la estrategia definitiva?

El objetivo final es que perdamos la fe en nuestra capacidad para obtener verdades objetivas para el debate público

R.- En primer lugar, sí, parece serlo. Sin embargo, en 2016 Trump ganó por 100.000 votos en tres estados. Casi cualquier cosa lo habría inclinado en otra dirección: si llovía, si nevaba… Soy muy reacio a dar demasiado crédito a los rusos, porque escribí un libro en 2013 en el que predije, y cito textualmente, "si esto sigue así, un lunático narcisista será presidente de los Estados Unidos". Y no se trataba de interferencias extranjeras, sino de algunas tendencias fundamentales en Estados Unidos, y de cuestiones con nuestro electorado y con nuestras instituciones democráticas. Por lo tanto, creo que la interferencia extranjera simplemente está aprovechando un montón de factores que ya existen y que están bien desarrollados, como avivar las llamas y añadirlas gasolina. Si se eliminara en 2020, no estoy seguro de que la dinámica cambiaría tan drásticamente.

Soy muy reacio a dar demasiado crédito a los rusos, porque escribí un libro en 2013 en el que predije, y cito textualmente, "si esto sigue así, un lunático narcisista será presidente de los Estados Unidos". Y no se trataba de interferencias extranjeras, sino de algunas tendencias fundamentales en Estados Unidos

La desestabilización de las instituciones democráticas occidentales ha estado en marcha durante bastante tiempo, y es una mezcla inter-relacionada de tecnología que se centra en empujar al poder a los individuos y dejar fuera a las instituciones; la avaricia individual, institucional y corporativa; una especie de declive de la confianza en las instituciones públicas de la democracia que se ha ido erosionando lentamente durante más de 30 años; y también creo que es una especie de peligrosa falta de seriedad por parte del electorado estadounidense. Cuanto más nos alejamos de los sacrificios de la Segunda Guerra Mundial y de la Guerra de Corea, menos nos tomamos en serio nuestra propia política.

P.- Lo interesante de esta combinación es que es como un problema de pinzas. Hay un asedio desde fuera y hay una implosión real desde dentro, y lo que está sucediendo es que estas campañas de desinformación se están enfocando en esas debilidades, y están movilizando y explotando esas fracturas sociales y económicas dentro del mundo occidental. Lo vimos en Europa, lo vimos en España…. porque la desinformación siempre ha estado ahí, ¿no? Creo que lo interesante ahora es que hay un nuevo paisaje que lo hace más difícil de detectar y, tal vez, más impactante. Y también están las circunstancias subyacentes a nivel nacional para que realmente enraice y haya gente dispuesta a escuchar.