Las plataformas online se han convertido en máquinas del caos. ¿Podemos frenarlos?

Sinan Aral, del MIT Sloan, autor de La máquina del bombo publicitario: cómo las redes sociales alteran nuestras elecciones, nuestra economía y nuestra salud, y cómo debemos adaptarnos, habla con HBR sobre lo que el mundo tiene que hacer para contener las caóticas consecuencias de las plataformas en línea.

••• En enero, un tablón de mensajes de Reddit llamado r/WallStreetBets[hizo que las acciones de una atribulada tienda de videojuegos, GameStop, se dispararan](https://www.nytimes.com/article/gamestop-hedge-funds.html), costando miles de millones de dólares a algunos fondos de cobertura de Wall Street. Por muy alocada que sea la historia de los comerciantes minoristas que sacuden a los mercados, ya hemos visto este tipo de cosas antes: la saga es solo la última y caótica consecuencia de la capacidad de las personas para comunicarse y coordinarse, en masa, en las plataformas en línea. Sus precedentes recientes varían drásticamente, desde los relativamente benignos (miles de adolescentes) [coordinando en TikTok](https://www.nytimes.com/2020/06/21/style/tiktok-trump-rally-tulsa.html) para aumentar las expectativas de asistencia (a un mitin de Trump, por ejemplo) a los malignos (los insurrectos utilizan las plataformas)[Gab y Parler](https://www.nytimes.com/2021/01/06/us/politics/protesters-storm-capitol-hill-building.html) para planificar y ejecutar su ataque al Capitolio de los Estados Unidos). Es una historia que probablemente veamos repetida de nuevas formas, con una regularidad cada vez mayor, de ahora en adelante. La pregunta ahora es: ¿Cómo podemos —como ciudadanos, empresas y gobiernos— ejercer de manera responsable el creciente poder de las plataformas en línea y tener en cuenta sus consecuencias en la vida real? Para intentar responder a esta pregunta, hablé con Sinan Aral, director de la Iniciativa sobre la Economía Digital del MIT y autor de[_La máquina del bombo publicitario: cómo las redes sociales alteran nuestras elecciones, nuestra economía y nuestra salud, y cómo debemos adaptarnos_](https://www.amazon.com/Hype-Machine-Disrupts-Elections-Health-ebook/dp/B083RZKJY3/ref=sr_1_1?crid=2PXBSDF8IQRKN&dchild=1&keywords=the+hype+machine&qid=1612208558&s=books&sprefix=the+hype+ma%2Caps%2C146&sr=1-1), sobre cómo encaja esta última historia en la tendencia emergente de una actividad difícil de manejar y con grandes consecuencias en las plataformas en línea. **¿Qué significaría recuperar el control de las plataformas online?** Hemos visto muchos de los peligros que pueden provenir de las redes sociales, especialmente recientemente. Pero también hemos visto una enorme cantidad de promesas. Entonces, me gusta pensar en la pregunta como: «¿Cómo vamos a cumplir la promesa de las redes sociales y evitar los peligros?» Tenemos cuatro palancas a nuestra disposición, en mi opinión: dinero, código, normas y leyes. Por _dinero_ Me refiero a los modelos de negocio de las plataformas, que ofrecen incentivos para el comportamiento de los usuarios, el comportamiento de los anunciantes y el comportamiento de los inversores. _Código_ es el diseño de las plataformas y los algoritmos que las sustentan, ya sean algoritmos de suministro de noticias o algoritmos de «personas que tal vez conozca», etc. _Normas_ son los comportamientos sociales del mundo real en torno a las plataformas. ¿Cómo usa realmente la gente estas cosas? Y luego _leyes_, que lo abarcan todo, desde la antimonopolio hasta la Sección 230, la legislación de privacidad y la modernización de las directrices de la SEC. Y creo que podemos dirigir esta tecnología hacia el bien y alejarla del mal. Pero para ello, realmente necesitamos ahondar en la ciencia de las redes sociales y utilizar esas palancas en consecuencia. **En su libro, que se publicó en septiembre pasado, pronosticó un hecho como el ataque al Capitolio del 6 de enero. También describió la probabilidad de una perturbación económica similar a lo que vimos la semana pasada en la historia de GameStop. Tras pensar en el potencial disruptivo de las redes sociales, ¿qué impresión tiene de los acontecimientos de enero de 2021?** Creo que estamos siendo testigos, en tiempo real, de que la sociedad se enfrenta al surgimiento de las redes sociales como una fuerza muy poderosa. Los expertos que han estado estudiando estas cosas llevan meses, si no años, advirtiendo de que este tipo de perturbaciones podrían producirse como resultado de las plataformas en línea. Y no es la primera vez que vemos que la actividad en las redes sociales se manifiesta como una amenaza real para las democracias o una perturbación de la economía. Pero la magnitud, la publicidad y el extremo de estos acontecimientos recientes parecen nuevos en los EE. UU. **¿Qué potencial disruptivo de las plataformas online le preocupa más en un futuro próximo?** Bueno, el tercer elemento de la trifecta del subtítulo de mi libro es la salud pública. Creo que eso es relevante para el momento actual de la pandemia, porque las dudas sobre las vacunas proliferan debido a la desinformación. Y ya estamos empezando a ver algo de eso. Hace unos días, unos manifestantes antivacunas, alimentados por la desinformación en las redes sociales, cerraron el centro de vacunación del Dodger Stadium, y esto es solo una repetición de lo que ocurrió con el sarampión en 2018 y 2019. Espero sinceramente que no veamos más eventos de este tipo. **Este mes, hemos visto a las plataformas empezar a autorregularse de forma mucho más agresiva. Twitter, Facebook y otras plataformas prohibieron al expresidente Trump. Discord prohibió brevemente r/WallStreetBets y la plataforma de negociación Robinhood ha restringido las operaciones en GameStop, AMC y Blackberry. ¿Qué opina de estos intentos?** No cabe duda de que los eventos son diferentes en aspectos importantes, pero ambos plantean una cuestión fundamental sobre la moderación del contenido. Históricamente, hemos visto que las plataformas comienzan con una política mayoritariamente de no intervención. Pero aproximadamente el año pasado, empezamos a ver cómo aumentaba la presión pública y el espectro de la regulación aparecía. Tenemos el caso antimonopolio contra Facebook. Se habla mucho de la reforma o derogación de la Sección 230 de la Ley de Decencia en las Comunicaciones. Y ante ese tipo de presión, así como cada vez más pruebas de que las plataformas están teniendo un efecto en los comportamientos del mundo real de formas que la sociedad no quiere ver, estas empresas están empezando a tomar medidas más agresivas para moderar el contenido, prohibir las cuentas que infrinjan sus políticas y trazar límites. **¿Cómo y dónde trazan los límites?** Esa es la gran pregunta. En última instancia, todo se reduce a la diferencia entre la libertad de expresión y la expresión perjudicial, ya sea en torno a la información política o financiera. Hay algunas infracciones obvias, no queremos intentos coordinados[secuestrar y matar al gobernador de Michigan](https://www.nytimes.com/2021/01/27/us/ty-garbin-whitmer-kidnapping-plot.html), o [transmisiones en directo de asesinatos en masa](https://time.com/5589478/facebook-livestream-rules-new-zealand-christchurch-attack/) en estas plataformas, por ejemplo. Ese tipo de cosas son claramente dañinas y fáciles de moderar. Pero cuando hablamos de tipos de comunicaciones que son técnicamente legales, pero potencialmente dañinas, son mucho más difíciles de clasificar y moderar si es una plataforma. **Entonces, ¿quién debe hacer esas llamadas? ¿Debería reducirse a las plataformas, a la autovigilancia o a la regulación gubernamental?** Bueno, es importante señalar que la candidata a secretaria de Comercio por el presidente Biden, Gina Raimondo, dijo que estaría a favor de que la Administración Nacional de Telecomunicaciones e Información del Departamento de Comercio liderara una reforma de la Sección 230. Pero en mi opinión, las agencias que trazan las líneas entre la expresión dañina y la libertad de expresión no es buena idea, porque las dirigen personas designadas por motivos políticos. El lugar correcto para hacerlo es en el Congreso —el órgano deliberativo más representativo que tenemos— y en los tribunales, en la jurisprudencia. **Lo que vimos en Reddit la semana pasada —el esfuerzo coordinado de una comunidad online para aumentar el valor de ciertas acciones— no solo plantea dudas sobre el tipo de discurso permitido en las plataformas. También plantea cuestiones importantes sobre el futuro de las normas y reglamentos financieros. ¿Qué tipo de respuesta cree que va a provocar esto?** Espero que la SEC lleve a cabo una investigación sobre los movimientos del mercado que hemos visto esta semana. Vimos a la SEC investigar a Lidingo Holdings y DreamTeam por crear publicaciones en las redes sociales que manipulaban el mercado en 2014. No cabe duda de que aquí podría llevarse a cabo el mismo tipo de investigación. Todavía no sabemos lo suficiente sobre la situación de GameStop. Por ejemplo, no está claro que la historia de David contra Goliat sea exactamente correcta. ¿Quién había exactamente entre la multitud? ¿Estaban vinculados a instituciones financieras con una participación? Había fondos de cobertura como BlackRock y particulares como Ryan Cohen, el exCEO de Chewy.com, que ganaba mucho dinero. Eso no es ilegal, pero se han revelado nuevos caminos hacia la inestabilidad económica. Por ejemplo, si pensáramos que a Rusia le resultaba productivo generar disrupción en nuestra democracia mediante la manipulación de las redes sociales, ¿qué cree que piensan, después de GameStop, de la perspectiva de perturbar nuestra economía con una estrategia similar? Necesitamos saber más. **¿Qué resultados de esta historia importarán más?** Bueno, creo que hemos visto cómo lo de GameStop ya se ha expandido muy rápidamente más allá de una acción, a AMC y luego a Blackberry, para convertirse en una especie de movimiento social, ¿verdad? Así que, que esto siga sucediendo o no depende de un par de cosas. Número uno, ¿quién se queda sin dinero? Segundo, ¿qué tipo de respuesta regulatoria vemos por parte de la SEC? Esos resultados determinarán lo que pasará después. **¿Qué cree que es una conclusión infravalorada de la historia de GameStop a la que cree que la gente debería prestar atención?** Creo que es importante que la gente se dé cuenta de que, en lo que respecta a los mercados, las redes sociales no funcionan de forma aislada. Por supuesto, las redes sociales son un mecanismo de colaboración colectiva en el que muchas personas pueden coordinar su comportamiento, difundir información errónea o decidir comprar y vender acciones, etc. Pero se combinan con sistemas muy sofisticados que analizan la opinión en las plataformas y la vinculan a los algoritmos de negociación automatizados, así como a recomendaciones a los inversores institucionales para que compren o vendan acciones. Y entonces hay un circuito de retroalimentación. Los inversores institucionales han conectado sus sistemas de detección a la multitud. Esto acaba complicando la historia; no se trata de dos sistemas enfrentados, sino de un gran sistema que se enreda.