Garantizar que sus productos no se utilicen con fines discriminatorios

La discriminación es un problema social y empresarial. Y la medida en que se permite que la discriminación afecte a una empresa es una decisión que toman los líderes empresariales. Afortunadamente, hay un conjunto de herramientas cada vez mayor para los líderes que desean crear una empresa y una sociedad más inclusivas. Aquí, los autores exponen cuatro medidas que todo líder debe tomar para lograr este objetivo.

••• Las crisis suelen llevar a la gente a buscar a «alguien» a quien culpar, y la culpa suele recaer en los grupos étnicos o religiosos marginados. Los trágicos acontecimientos llevaron a los campos de internamiento japoneses durante la Segunda Guerra Mundial y al sentimiento antimusulmán tras el 11 de septiembre, En el contexto de la COVID-19, nuestra investigación en curso ha descubierto que el uso de chivos expiatorios raciales y el sentimiento antiasiático durante las primeras etapas de la pandemia causaron daños emocionales y económicos. Al analizar cientos de miles de reservas en Airbnb, descubrimos que hubo un aumento de la discriminación contra los usuarios asiático-estadounidenses de Airbnb a principios de la pandemia. Los líderes empresariales deben ser conscientes de estos riesgos. También necesitan herramientas para identificar, medir y mitigar los prejuicios, y un enfoque proactivo que anticipe e identifique la discriminación. En este artículo, ofrecemos un resumen de nuestra investigación, centrándonos en Airbnb como estudio de caso. Luego, proporcionamos un marco para que los líderes ayuden a crear entornos que sean menos susceptibles a los sesgos. ## **Aumento de la discriminación contra los estadounidenses de origen asiático** Analizamos los datos de[Dentro de AirBnB](http://insideairbnb.com/about/), un proyecto que proporciona datos y promoción sobre el impacto de Airbnb en las comunidades residenciales. Estudiamos más de 300 000 estancias en Airbnb entre 17 000 anfitriones. Utilizamos algoritmos estadísticos para deducir la raza de los anfitriones en función de sus nombres, un enfoque que [hemos propuesto](https://www.nim.org/en/publications/gfk-marketing-intelligence-review/all-issues/reputation-economy/detecting-and-mitigating-discrimination-online-platforms-lessons-airbnb-uber-and) como parte de un conjunto de herramientas para medir la discriminación en las plataformas y que ahora utilizan empresas como Uber. Lo hemos combinado con datos detallados sobre las características del anuncio, los precios y la información de reservas. Los resultados fueron sorprendentes: identificamos un aumento grande y rápido de la discriminación contra los anfitriones asiático-estadounidenses en 2020. Si bien todos los anfitriones se vieron afectados por la pandemia, el impacto en los anfitriones asiático-estadounidenses fue mucho mayor en comparación con los anfitriones blancos, hispanos y negros. Nuestros resultados sugieren que el aumento de la discriminación provocó que los anfitriones asiático-estadounidenses perdieran alrededor del 12% de sus huéspedes durante la pandemia. Una explicación de esta disminución podría ser que los anfitriones asiático-estadounidenses fueron más selectivos por miedo al riesgo de contraer el virus. Sin embargo, nuestros resultados fueron consistentes incluso entre los anfitriones que «se pueden reservar al instante», que aceptan automáticamente todas las solicitudes de reserva, lo que sugiere que cualquier reducción en las reservas (en relación con otros alojamientos con reservas instantáneas) puede atribuirse a las decisiones de los huéspedes. Descubrimos que la discriminación era generalizada, afectaba tanto a los anfitriones nuevos como a los más experimentados y provocó una caída del negocio incluso para los estadounidenses de origen asiático ** ** anfitriones con una buena reputación en la plataforma. Por el contrario, los presentadores negros o hispanoamericanos no experimentaron ninguna caída significativa en el negocio durante la pandemia, en comparación con los anfitriones blancos. La reducción del número de huéspedes solo es evidente para los anfitriones asiático-estadounidenses, el principal grupo utilizado como chivo expiatorio durante la pandemia de la COVID-19. Mucho antes de la pandemia de la COVID-19, había pruebas de discriminación en Airbnb. Una investigación realizada por uno de nosotros (Mike, junto con los colaboradores Ben Edelman y Dan Svirsky) documentó la discriminación contra los afroamericanos[anfitriones](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2377353) y[invitados](https://www.aeaweb.org/articles?id=10.1257/app.20160213). Esta investigación comenzó hace más de ocho años e impulsó un nuevo cuerpo de literatura que documenta y proporciona herramientas para combatir la discriminación en los mercados en línea. Los comportamientos discriminatorios se ven facilitados, en parte, por la presencia de información que revela la raza, por lo general nombres o fotos. Airbnb se ha enfrentado recientemente[demandas](https://www.theguardian.com/technology/2022/jan/03/airbnb-race-oregon-names-discrimination) de usuarios que han sufrido discriminación por su nombre, una posibilidad que se ha planteado[en nuestras investigaciones anteriores](https://www.aeaweb.org/articles?id=10.1257/app.20160213). En términos más generales, en contextos que van desde los mercados en línea hasta los procesos de contratación, eliminar esos marcadores cuando se produce discriminación ha sido un enfoque para mitigar los prejuicios. Airbnb ha dado pasos importantes en la dirección correcta. Después de 2015, Airbnb empezó a eliminar las fotos de los anfitriones de las principales páginas de resultados de búsqueda y, en 2018, retiró la posibilidad de los anfitriones de ver las fotos de los huéspedes hasta que se tomaran las decisiones de reserva. Sin embargo, las fotos y los nombres de los anfitriones siguen apareciendo en las páginas de anuncios, lo que creemos que provocó el aumento de la discriminación que documentamos en nuestra investigación. ## **Crear un ecosistema empresarial más inclusivo** Los líderes empresariales deben tomar medidas para garantizar que sus decisiones empresariales y sobre productos no faciliten la discriminación. Afortunadamente, hay un conjunto de herramientas cada vez mayor para los líderes que desean crear una empresa y una sociedad más inclusivas. A continuación, exponemos cuatro medidas que todo líder debe tomar para lograr este objetivo. ### **1. No niegue que se ha producido discriminación (si es que se ha producido).** Los líderes deben reconocer que los prejuicios siguen siendo generalizados en la sociedad moderna y que pueden contribuir a entender y reducir los prejuicios. Para empezar, piense en cómo podría manifestarse esto en su organización. ¿Cómo podrían afectar los prejuicios a sus clientes, sus empleados y sus operaciones? ¿Cómo van a agravar o mitigar sus decisiones la discriminación? También es importante entender que los prejuicios evolucionan. En tiempos de crisis, es especialmente importante pensar en los tipos de sesgo que también podrían estar aumentando. A Airbnb le sorprendieron nuestros resultados más recientes y se ha comprometido a seguir estudiando el tema. Tras este proyecto, Mike recibió una llamada de un consultor sénior de la empresa preguntándole qué creíamos que debían hacer. Puede resultar difícil anticipar la evolución del panorama de la discriminación. Y hay ejecutivos de Airbnb que parecen realmente interesados en reducir la discriminación en la plataforma. Pero podrían haber identificado este problema antes si hubieran reconocido el aumento del sentimiento antiasiático y cómo esto podría afectar a su plataforma. ### **2. Mida la discriminación siempre que sea posible.** Puede resultar difícil para las empresas mirarse al espejo y pensar en la discriminación que se produce en sus organizaciones, ya sea en la contratación o en sus plataformas. Sin embargo, este es un paso importante para abordar la discriminación. En nuestro análisis de Airbnb, medimos la discriminación en la plataforma analizando los nombres de los anfitriones. Otros enfoques incluyen codificar fotos, cosa que Mike hizo en[un estudio de 2014](https://www.researchgate.net/publication/272244325_Digital_Discrimination_The_Case_of_Airbnbcom#:~:text=Edelman%20et%20al.,similar%20profiles%20but%20White%20names.) realizado con Benjamin Edelman (y de nuevo en un proyecto posterior) y encuestando a los usuarios para entender su origen étnico. Las empresas también pueden consultar las quejas que reciben. Por ejemplo, tras una investigación anterior, Mike recibió un correo electrónico de un usuario de Airbnb en el que describía que había sido objeto de discriminación en Airbnb. El departamento de atención al cliente de Airbnb desestimó su queja. En cambio, deberían haberlo reconocido y haber analizado sistemáticamente si había patrones de discriminación más amplios en las quejas. ### **3. Haga que su empresa esté lo más protegida posible contra la discriminación.** En los últimos años se ha desarrollado un conjunto cada vez mayor de herramientas con el objetivo de reducir los sesgos en diferentes contextos. En algunos casos, esto puede implicar aumentar el anonimato (por ejemplo, en el contexto de Airbnb, esto implicaría mostrar la identidad de los huéspedes y los anfitriones solo después de tomar una decisión de reserva), una solución que hemos propuesto y estudiado a lo largo de los años. Esto también puede implicar el uso cuidadoso de la automatización y las ayudas a la toma de decisiones algorítmicas (hay que hacerlo con cuidado, ya que los algoritmos también tienen el potencial[para reforzar o exacerbar los sesgos](https://preview.hbr.org/2019/05/all-the-ways-hiring-algorithms-can-introduce-bias) también). Además, las empresas pueden pensar en el diseño de sus ecosistemas de manera más amplia y centrarse en el diseño de procesos inclusivos para todo, desde la contratación y los ascensos hasta la experiencia en la plataforma y el diseño de productos ### **4. Experimente con sus procesos y perfecciónelos.** Es tentador pensar en la discriminación como un problema que hay que resolver una sola vez. Sin embargo, abordar estos problemas complejos es un proceso continuo, no un problema que se pueda solucionar de una vez. En este sentido, la experimentación puede ayudar a los líderes a desarrollar marcos para reducir la discriminación con el tiempo y a responder a los desafíos actuales. Las empresas tienen que incluir la posibilidad de discriminación en sus análisis experimentales. Cuando se realicen cambios en los productos, deberían, por supuesto, pensar en el efecto no solo en las métricas de productividad a corto plazo (que se suelen rastrear y evaluar), sino también en las métricas de inclusión, y si el cambio aumenta el sesgo. Los líderes pueden pensar en esto como poner barandas. Además de esto, también deberían utilizar experimentos para poner a prueba diferentes ideas y ver cuáles son las más eficaces para reducir la discriminación. Aquí, nos gustaría señalar los de Airbnb[experimento en curso](https://www.npr.org/2022/01/04/1070411574/airbnbs-new-experiment-racial-bias-discrimination-oregon) en Oregón. Cuando los huéspedes del estado solicitan reservar un alojamiento, el anfitrión solo ve las iniciales del posible huésped y no su nombre completo. Por ejemplo, una solicitud de reserva de Jamal Smith y una solicitud de reserva de James Smith aparecerían como solicitud de reserva de JS. Este experimento se realizó en respuesta a una demanda en la que tres usuarios acusaron a la plataforma de discriminación. ** ** Si bien el diseño del experimento tiene limitaciones, esto va en la dirección correcta de probar e implementar estrategias sistemáticas para reducir los sesgos. Los líderes empresariales no pueden simplemente quedarse al margen cuando se trata de abordar los problemas sociales. Los problemas sociales son problemas empresariales. Ya sea que se centren en el diseño de una plataforma o en la gestión de los empleados, los líderes deben crear un ecosistema sólido que anticipe la posibilidad de discriminación. Si una organización es susceptible a la discriminación antes de una crisis, será más difícil contener la propagación de la discriminación cuando inevitablemente se produzcan crisis y tensiones raciales en el mundo. Y, cuando se produce una crisis, los líderes tienen que pasar a la acción y responder con rapidez.