¿Puede la Junta de Supervisión de Facebook ganarse la confianza de la gente?

Facebook está a un paso de crear su junta de supervisión global para la moderación del contenido. Si bien hay buenos motivos para mostrarse escépticos en cuanto a si la empresa puede solucionar problemas como la incitación al odio y la desinformación en su plataforma por sí sola, deberíamos prestar más atención a la forma en que el consejo de administración se propone tomar las decisiones. Si sus miembros se comprometieran a proteger todos los derechos humanos al hacerlo, podría ayudar a otras empresas de tecnología a enfrentarse a problemas similares. Sin embargo, cuanto más limite la junta su alcance, más pasará por alto el panorama general.

••• Facebook está a un paso de crear su junta de supervisión global para la moderación del contenido. Publicación de los estatutos de la junta[el 28 de enero](https://about.fb.com/news/2020/01/facebooks-oversight-board/), exponga el plan para un experimento sin precedentes de autogobierno corporativo para el sector tecnológico. Si bien hay buenos motivos para mostrarse escépticos en cuanto a si Facebook por sí mismo puede solucionar problemas como la incitación al odio y la desinformación en la plataforma, deberíamos prestar más atención a la forma en que la junta se propone tomar las decisiones. Cuando Mark Zuckerberg empezó a hablar de un[«Tribunal Supremo»](https://www.vox.com/2018/4/2/17185052/mark-zuckerberg-facebook-interview-fake-news-bots-cambridge) de Facebook para juzgar sus decisiones sobre el contenido de hace dos años, la empresa se vio plagada de escándalos que ya son conocidos: desde la interferencia de Cambridge Analytica en las elecciones estadounidenses hasta el genocidio en Myanmar, exacerbado por publicaciones en el sitio que incitaban a la violencia. El colapso de la confianza pública en la empresa estuvo acompañado de un mayor escrutinio por parte de los legisladores que exigían un cambio. Sin embargo, las decisiones de Facebook de limitar el contenido y la expresión, como[prohibir la desnudez](https://www.vox.com/recode/2019/10/27/20932915/instagram-free-the-nipple-photo-facebook-nudity-ban-art-reset-podcast) o[deepfakes](https://www.theverge.com/2020/1/15/21067220/deepfake-moderation-apps-tools-2020-facebook-reddit-social-media), suelen ser objeto de intensas críticas públicas. Facebook quiere que la Junta de Supervisión asuma la responsabilidad de estas decisiones. Como indican los estatutos, cuando el equipo de moderación de contenido retira una publicación o una imagen en Facebook o Instagram, el usuario puede iniciar una serie de apelaciones que podrían ir hasta la junta para decidir, en última instancia, si el contenido permanece dentro o fuera de la plataforma. Las sentencias dictadas por los 40 posibles miembros de la junta serán vinculantes para que Facebook las ejecute en un plazo de siete días. El consejo también puede emitir «opiniones consultivas» y recomendaciones no vinculantes sobre la política de contenido existente, y la empresa haría pública su respuesta. Facebook ha accedido a transferir 130 millones de dólares para seis años de financiación del consejo de administración a un fideicomiso legal independiente que la empresa no pueda revocar. Sin embargo, dado que Facebook seleccionará la lista inicial de expertos internacionales del consejo de administración, corre el riesgo de quedarse repleto de miembros que serían demasiado respetuosos con la empresa. Y un problema más central está integrado en la base[carta](https://about.fb.com/wp-content/uploads/2019/09/oversight_board_charter.pdf) que establece que la junta «revisará las decisiones de aplicación del contenido y determinará si fueron coherentes con las políticas y valores de contenido de Facebook». Si la junta se convierte en una cámara de eco para los valores soñados en Silicon Valley, difícilmente será confiable en el escenario mundial. ¿Qué se necesitaría para que la junta fuera creíble? Los estatutos contienen una posible vía a seguir. Dicen que la junta «se guiará por los principios de derechos humanos pertinentes» y proporcionará un «análisis de la forma en que las decisiones de la junta han considerado o rastreado los derechos humanos internacionales implicados en un caso». Si bien este lenguaje actual es escurridizo, si la junta basa su toma de decisiones de manera más explícita en los derechos humanos internacionales, podría ganar legitimidad. El problema es que los estatutos actuales limitan el mandato de la junta a proteger la «libertad de expresión», un supuesto objetivo corporativo que Zuckerberg destacó en un[discurso reciente](https://about.fb.com/news/2019/10/mark-zuckerberg-stands-for-voice-and-free-expression/) en la Universidad de Georgetown. La organización sin fines de lucro Business for Social Responsibility, a la que Facebook encargó llevar a cabo una[evaluación independiente de los derechos humanos](https://www.bsr.org/en/our-insights/blog-view/a-human-rights-review-of-the-facebook-oversight-board) de la junta, descubrió que su alcance era demasiado limitado y señaló que «todos los derechos humanos, no solo la libertad de expresión y la seguridad personales, pueden verse afectados por las decisiones sobre el contenido». Si Facebook se toma en serio la protección de los derechos humanos, elegir cuidadosamente el discurso y la expresión no basta. La junta y su director entrante deben entender que sus decisiones pueden tener un impacto en una serie de derechos, como la libertad de reunión y de voto. Estos derechos no los define Facebook, sino la Declaración Universal de Derechos Humanos de las Naciones Unidas, los tratados internacionales y los tribunales de derechos humanos. Los miembros de la junta, que se anunciarán en los próximos meses, deberían hacer uso de su capacidad para modificar los estatutos y comprometerse claramente a decidir los casos basándose en una legislación más amplia de derechos humanos. No va a ser fácil. Puede que se encuentren en la difícil posición de priorizar los derechos universales de los usuarios ubicados en países con leyes que no los protegen. ¿Y si el gobierno de Myanmar está de acuerdo en que se retire la publicación de un usuario, pero la junta la anula? Si bien los estatutos establecen que Facebook no implementará ninguna decisión que «pueda infringir la ley», la junta perderá credibilidad si se limitara a aceptar las leyes locales que hacen caso omiso de los derechos humanos. También puede darse el caso de que los principios de derechos humanos actuales no siempre den respuestas claras a los problemas emergentes relacionados con el contenido digital o la IA. Aun así, si la junta se pusiera de acuerdo en proteger todos los derechos humanos al tomar decisiones, podría generar opiniones novedosas que podrían ayudar a otros a enfrentarse a desafíos similares. Cuando hablé con Noah Feldman, de la Facultad de Derecho de Harvard, que ideó el concepto de Facebook del Tribunal Supremo y asesoró a Zuckerberg, se imaginó que otras empresas de tecnología podrían algún día llevar sus problemas al Consejo de Supervisión si estaban de acuerdo en que la decisión sería vinculante. Sin embargo, cuanto más limite la junta su alcance, más pasará por alto el panorama general. Amnistía Internacional, en un reciente[informe](https://www.amnesty.org/download/Documents/POL3014042019ENGLISH.PDF), afirma que la vigilancia generalizada de Facebook «representa una amenaza sistémica para los derechos humanos». Joe Westby, uno de los autores del informe, me dijo que «centrarse en las políticas de contenido le sirve bien a Facebook, ya que evita cuestionar los problemas del propio modelo de negocio fundamental. Estas iniciativas no pueden sustituir a una supervisión y una regulación estatales sólidas». La junta debería estar plenamente facultada para hacer recomendaciones políticas, especialmente aquellas que puedan cuestionar directamente el funcionamiento interno de los modelos de ingresos o el algoritmo de la sección de noticias de Facebook. Hay mucho en juego y la junta tiene un margen de oportunidades reducido. Kate Klonick, becaria de derecho en las facultades de derecho de San Juan y Yale, dijo: «Durante más de 15 años, los usuarios han tenido pocos medios para impugnar la aplicación de sus normas por parte de Facebook o decir cuáles deberían ser esas normas. Lo ideal es que la junta directiva sea un paso adelante importante, pero pequeño». Si la junta no se autogobierna, dejaría una clara y[extremadamente desafiante](https://www.theguardian.com/commentisfree/2019/apr/28/regulating-facebook-will-be-one-of-the-greatest-challenges-in-human-history) mensaje para los legisladores: Hay que regular Facebook.