Los empujones algorítmicos no tienen que ser poco éticos
Las empresas utilizan cada vez más algoritmos para gestionar y controlar a los individuos no por la fuerza, sino más bien empujándolos a un comportamiento deseable, es decir, aprender de sus datos personalizados y alterar sus elecciones de alguna manera sutil. Desde el Escándalo de Cambridge Analytica en 2017, por ejemplo, es ampliamente conocido que la inundación de publicidad dirigida y contenido altamente personalizado en Facebook no solo puede empujar a los usuarios a comprar más productos, sino también a engañarlos y manipularlos para que voten por partidos políticos particulares.
El economista Richard Thaler de la Universidad de Chicago y el profesor de la Facultad de Derecho de Harvard Cass Sunstein popularizaron el término «empujón» en2008, pero debido a los recientes avances en IA y aprendizaje automático, el empujamiento algorítmico es mucho más potente que su contraparte no algorítmica. Con tantos datos sobre los patrones de comportamiento de los trabajadores a su alcance, las empresas ahora pueden desarrollar estrategias personalizadas para cambiar las decisiones y comportamientos de las personas a gran escala. Estos algoritmos se pueden ajustar en tiempo real, haciendo que el enfoque sea aún más efectivo.
Las tácticas de empuje algorítmico se están empleando cada vez más en entornos de trabajo, ya que las empresas utilizan textos, gamificación y notificaciones push para influir en su fuerza de trabajo. Por ejemplo, la compañía de transporte Uber ha estado empleando el truco psicológico de insignias gratificantes para incentivar a sus más de 3 millones de conductores independientes y autónomos a trabajar más horas sin obligarlos a hacerlo. Del mismo modo, Deliveroo envía notificaciones a los teléfonos inteligentes de sus trabajadores de reparto de alimentos para que trabajen más rápido.
Para muchas empresas, empujar a los trabajadores es un enfoque prometedor para lograr sus objetivos organizacionales a través de un mayor rendimiento de los trabajadores y/o ahorros de costos. Por ejemplo, Virgen del Atlántico ha dado forma al comportamiento de sus empleados al empujar a sus pilotos a utilizar menos combustible, ayudando a la aerolínea británica a reducir sustancialmente los costos; Google ha empleado empujones para incentivar a su mano de obra a comer bocadillos más saludables y reducir el desperdicio de alimentos en la cafetería. En nuestros cuatro años de investigación en Uber, mis colegas y yo descubrimos que, en comparación con la gestión tradicional, la gestión algorítmica y los enfoques de empujamiento permitían a la empresa coordinar eficientemente una gran fuerza de trabajo a un costo relativamente bajo.
Pero las empresas deben ser cautelosas: estas prácticas han sido criticadas por su dudosa ética y preocupan cada vez más a los reguladores y al público en general. Los desafíos a estas prácticas se presentan principalmente en forma de atención a las violaciones de la privacidad, acusaciones que empujan manipular individuos involuntados a su desventaja, y la preocupación por la transparencia algorítmica y el sesgo. Actualmente, las empresas que emplean tales técnicas son en gran medida las de la economía de conciertos, donde los trabajadores no son considerados empleados. Esa designación ha protegido en gran medida a los empleadores de la regulación en este ámbito, pero esto puede estar empezando a cambiar.
Por ejemplo, en julio de 2020 los conductores británicos Uber presentaron un pleito contra Uber alegando que la empresa no cumple con sus obligaciones legales en virtud de la normativa europea de protección de datos (GDPR), alegando su falta de transparencia sobre sus algoritmos. Del mismo modo, en los Estados Unidos, la Comisión Federal de Comercio ha financiado repetidamente estudios de investigación y ha publicado directrices para el consumidor para promover la privacidad del consumidor y la responsabilidad algorítmica. Estas preocupaciones relacionadas con la privacidad han sido alimentadas por noticias sobre prácticas corporativas cuestionables como Amazon, que pueden vibrar para apuntar a los trabajadores del almacén en la dirección de un producto, pero que también rastrean cada movimiento del empleado.
Pero las empresas no deben renunciar a la gestión algorítmica para controlar a los trabajadores a través del empujón. Basándose en enfoques que funcionan —y los que no funcionan— en Uber, así como en aquellos que he observado a través de informes disponibles públicamente sobre Facebook, Amazon y Google, aquí hay tres recomendaciones para empresas que desean participar en la gestión algorítmica y el empujón, pero quieren evitar la ética y trampas reguladoras:
Crear una situación de ganar-ganar
El empujón de Uber a los empleados, el empujón de Facebook a los usuarios de las redes sociales, y el empujón de Amazon a los trabajadores tan claramente sirven a los intereses de las empresas sobre los de los consumidores o trabajadores que es fácil suponer que todo empujón va en contra de los intereses del individuo objetivo. Sin embargo, creo que las empresas pueden crear una situación en la que todos ganen y que el empujón sea beneficioso para todos los involucrados.
Investigación por Thaler y Sunstein indican que el empujón puede animar a las personas a mejorar su propia salud, riqueza y felicidad a través del refuerzo positivo de sus decisiones.
Traduciendo esto al contexto del trabajo y la gestión algorítmica, las organizaciones deben buscar implementar sistemas de recompensa personalizados y potenciados por IA que también beneficien al trabajador. Aunque no sé de ninguna empresa específica que haga esto ahora, puedo imaginar un mundo en el que estos sistemas empujan a los trabajadores a aumentar su propia seguridad y transmitirles un sentimiento de aprecio. En el futuro, las empresas podrían inscribir trabajadores en programas de ahorro de jubilación de forma predeterminada para animarlos a ahorrar más. Muchos de estos comportamientos a su vez ayudan a la empresa también, ya que la seguridad y satisfacción de los empleados benefician el resultado final.
Mientras que los empujones originales de Uber se centraron completamente en los resultados que beneficiaron a la empresa en lugar de a sus trabajadores, más recientemente la empresa ha comenzado a dar los primeros pasos hacia un enfoque más equilibrado a través de su servicio de recompensas Uber Pro. Los conductores que mantienen ciertos requisitos, como altas calificaciones y bajas tasas de cancelación, ahora pueden acceder a recompensas que van desde la reducción de membresías al gimnasio hasta devolución de dinero en las compras de combustible. Si bien se necesita más trabajo para responder plenamente a las necesidades de los conductores, el programa actual es un punto de partida.
Compartir información acerca de la recopilación y el almacenamiento de datos
El empujamiento impulsado por algoritmos depende del acceso a grandes cantidades de datos detallados sobre las preferencias de los empleados y el comportamiento pasado. Mientras que los gigantes tecnológicos como Google y Amazon recopilan este tipo de datos sobre búsquedas web, clics, me gusta y decisiones de compra de los usuarios, Uber recopila datos sobre cada movimiento de sus conductores, como su ubicación GPS, hábitos de conducción y exceso de velocidad, y tasa de aceptación de viaje.
Las empresas que participan en el empujón algorítmico deben ser transparentes acerca de la recopilación y almacenamiento de estos datos. El RGPD establece un buen estándar aquí: obliga a las empresas a proporcionar activamente información sobre la naturaleza del usuario personal (¡incluidos los trabajadores!) datos que recogen y almacenan. Por ejemplo, Twitter tiene actualizado sus términos de servicio y configuración de privacidad para cumplir con las regulaciones del RGPD, entre otras cosas asegurándose de que la comunicación y la información a los usuarios sobre el uso de sus datos sea concisa, transparente y fácilmente accesible, utilizando un lenguaje claro y sencillo.
En relación con esto, es una práctica amplia que las empresas vendan datos a terceros. Las empresas deben evitarlo siempre que sea posible o al menos revelar adecuadamente su intención a los consumidores y trabajadores.
Explicar la lógica del algoritmo
Dejar claro a los empleados lo que el algoritmo está haciendo con sus datos también es fundamental para mantenerse dentro de los límites éticos. Las personas que se ven afectadas significativamente por los resultados de los modelos de aprendizaje automático se deben a una contabilidad de cómo se toma una decisión en particular. Esto es importante cuando se trata de perfiles: el uso de nuevos avances en tecnologías digitales para permitir que las decisiones algorítmicas se adapten a un individuo específico. La transparencia de la información es crucial para permitir a los trabajadores tomar decisiones informadas acerca de si optar por no participar en el algoritmo, y para demostrar que una decisión automatizada no es propensa a prejuicios raciales o de género.
Sin embargo, compartir información como por qué algunos trabajadores son tratados de manera diferente a otros o cuál es el resultado deseado de estrategias de empujamiento específicas puede ser un reto, especialmente dado que estos algoritmos siempre se adaptan dinámicamente en función del entorno cambiante. Aun así, cada vez más empresas están invirtiendo en soluciones explicables de IA, empleando técnicas para asegurarse de que los grupos de interés humanos puedan entender los resultados computacionales complejos.
Una forma de abordar este problema es explicaciones contrafácticas. Estos muestran cuál sería el resultado de un algoritmo de toma de decisiones para un individuo específico si tuviera características o atributos diferentes, una forma simple y no técnica de mostrar cómo funciona el algoritmo.
Por ejemplo, Uber podría compartir información detallada sobre los factores (como la calificación del conductor, la tasa de aceptación de viajes, el número de quejas de clientes) que afectarían a la clasificación de cada conductor en el programa de recompensas a los miembros de categoría Gold, Platinum o Diamond. Aún mejor sería compartir información detallada sobre qué calificación exacta y tasa de aceptación, o cuántas quejas de clientes darían lugar a un conductor específico ascendido al siguiente nivel.
Debido al creciente acceso de las empresas a los datos de sus trabajadores y al rápido ritmo de los avances tecnológicos, es probable que el impulso de comportamiento continúe en el futuro. Las empresas que se unen a esta tendencia deben administrar cuidadosamente sus técnicas de empujamiento para permanecer legítimas creando soluciones beneficiosas para todos e invirtiendo en la transparencia de la recopilación, almacenamiento y procesamiento de los datos de sus trabajadores.
