Cómo manipular a los clientes... éticamente

Resumen.

A medida que ha crecido la influencia de la economía del comportamiento, las empresas han adoptado cada vez más «empujones» para influir en la forma en que los usuarios de sus productos o servicios toman decisiones. Pero los empujones (cambios en la forma en que se presentan o configuran las opciones para influir en las personas para que seleccionen determinadas) pueden tener consecuencias preocupantes. En consecuencia, los líderes empresariales deben analizar críticamente cómo animan a los usuarios a comprender si realmente están actuando en su mejor interés. A partir de un informe histórico para guiar la realización de investigaciones biomédicas y conductuales con sujetos humanos, este artículo ofrece tres principios para ayudar a las empresas a diseñar empujones éticos.

Como estos ejemplos dejan muy claro, los líderes empresariales deben analizar críticamente cómo animan a los usuarios a comprender si realmente están actuando en su mejor interés.

La gente no es totalmente racional. Los entornos, ya sean físicos o digitales, influyen en las decisiones que toman las personas y en cómo se comportan. Cualquiera que haya seguido las señales para distanciarse socialmente de los demás en una fila en un supermercado durante la pandemia o haya terminado donando más dinero a una organización benéfica de lo que había previsto originalmente debido a las cantidades de donación sugeridas en la página web de la organización benéfica probablemente haya sido objeto de un empujón. Originados en el campo de la economía del comportamiento, los empujones son cambios en la forma en que se presentan o configuran las elecciones para influir en las personas para que tomen una acción específica. Son extremadamente eficaces para dirigir el comportamiento del consumidor, pero pueden tener consecuencias preocupantes. Considera cómo El botón «me gusta» de Facebook ha contribuido a la adicción digital y el camino El algoritmo de recomendación de YouTube ha alimentado el extremismo y el odio. Como estos ejemplos dejan muy claro, los líderes empresariales deben analizar críticamente cómo animan a los usuarios a comprender si realmente están actuando en su mejor interés.

Richard Thaler y Cass Sunstein quien fue pionero en la teoría del empujón, ofrece algunos principios rectores sobre cómo «dar un empujón para siempre». Los nudges deben ser transparentes, nunca engañosos y excluirse fácilmente. Deben estar impulsados por la firme creencia de que el comportamiento que se está fomentando mejorará el bienestar de los que reciben un codazo y no va en contra de sus intereses como los que críticas generadas a Uber en 2017. Del mismo modo, Nir Eyal, autor de Enganchado, sugiere utilizar un su matriz de manipulación para determinar si los nudges deben rediseñarse. Se trata de responder a estas dos preguntas: 1) «¿Utilizaré el producto yo mismo?» y 2) «¿El producto ayudará a los usuarios a mejorar materialmente sus vidas?»

Estos principios son un buen punto de partida, pero no son suficientes. En este artículo, presentamos un marco más sólido para diseñar y evaluar nudges. Se basa en tres principios presentados en 1979 en la sección del Departamento de Salud, Educación y Bienestar Social de los Estados Unidos Informe Belmont para guiar la realización de investigaciones biomédicas y conductuales que involucren a sujetos humanos. Han dado forma en gran medida a cómo se seleccionan, consienten y tratan a los sujetos de investigación en la actualidad.

Principio 1: Respeto por las personas

Este principio consta de dos partes:

Las personas deben ser tratadas como agentes autónomos. Esto es lo que significa:

«Una persona autónoma es un individuo capaz de deliberar sobre objetivos personales y actuar bajo la dirección de tal deliberación. Respetar la autonomía es dar peso a las opiniones y elecciones consideradas de las personas autónomas y abstenerse de obstruir sus acciones a menos que sean claramente perjudiciales para los demás. Demostrar falta de respeto por un agente autónomo es repudiar las sentencias consideradas de esa persona, negarle a una persona la libertad de actuar según las sentencias consideradas o retener la información necesaria para emitir un juicio ponderado, cuando no hay razones imperiosas para hacerlo».

Las personas con autonomía reducida tienen derecho a protección. El informe explica lo siguiente:

«La capacidad de autodeterminación madura durante la vida de un individuo, y algunas personas pierden esta capacidad total o parcialmente debido a una enfermedad, discapacidad mental o circunstancias que restringen gravemente la libertad. El respeto por los inmaduros y los incapacitados puede requerir protección a medida que maduran o mientras están incapacitados. Algunas personas necesitan una protección amplia, incluso al punto de excluirlas de actividades que pueden perjudicarlas; otras personas necesitan poca protección más allá de asegurarse de que realizan actividades libremente y con conciencia de las posibles consecuencias adversas».

Aplicando este principio al diseño persuasivo (cómo se diseña un producto o servicio para influir en el comportamiento del usuario), los líderes empresariales deberían pensar más allá de ser transparentes sobre los empujones y permitir que los usuarios opten por no participar. Para preservar y proteger realmente la autonomía, los líderes deben considerar mecanismos para obtener el consentimiento del usuario antes de influir en sus comportamientos, aunque sea para su beneficio.

Esto presenta un desafío: algunos empujones conductuales no funcionan tan bien si el destinatario es consciente de que está sucediendo. Si les dice a los escolares que las verduras se colocaron primero en la fila de la cafetería con la esperanza de aumentar las probabilidades de que las elijan y las coman, es probable que hagan lo contrario y se las salten. Pero no decírselo puede disminuir su autonomía. Una forma de abordar este conflicto es encontrar un medio feliz siendo vago pero transparente. Por ejemplo, Headspac e, una aplicación de meditación guiada, pide a los usuarios durante el registro que den su consentimiento para recibir empujones en forma de notificaciones relevantes para sus objetivos específicos (por ejemplo, mejorar la atención plena, ayudar con el sueño). Momentos como estos generan confianza en los usuarios. (En el caso de la cafetería de la escuela, una posible solución es añadir un letrero que diga: «Le ofrecemos comidas saludables y saludables que requieren una mezcla de carbohidratos, verduras y proteínas»).

Se podría argumentar que proporcionar opciones para que un usuario ignore o descarte el empujón niega la necesidad de un permiso explícito por adelantado. Esto puede ser cierto, pero es importante considerar si las personas están siendo manipuladas o no para hacer algo que realmente no quieren hacer (por ejemplo, hacer el esfuerzo de excluirse del empujón demasiado grande para que lo hagan). Si lo son, entonces es necesario obtener sus permisos por adelantado.

Principio 2: Beneficencia

El segundo principio de Belmont es tener en cuenta los intereses de los demás. Incluye no solo proteger a los demás de daños, sino también tratar de asegurar su bienestar. El principio de beneficencia guía a los investigadores para minimizar los riesgos para los participantes y maximizar los beneficios para los participantes y la sociedad. Cuando se aplica al diseño de productos e innovación, este principio guía a los líderes para que evalúen y tengan en cuenta las posibles desventajas de los empujones.

Por ejemplo, como se reveló en un 2017 exposición del New York Times, las aplicaciones de viaje compartido tienen empujones para ayudar a hacer cola en otro viaje e informar a los conductores si están cumpliendo sus objetivos de ingresos. Aunque normalmente esta práctica función beneficia a los conductores, podemos ver cómo podría causar daño. ¿Debería la aplicación animar a los conductores que han conducido durante 12 horas seguidas a dar el último viaje para que puedan alcanzar su objetivo semanal de 1.000 dólares? ¿O debería la aplicación sopesar el riesgo de su probable agotamiento y determinar que el empujón no debería producirse en este momento en particular? Del mismo modo, un servicio de transmisión de vídeo podría detectar patrones en el uso normal, comprender cuándo los usuarios están viendo un programa hasta altas horas de la noche y preguntar al usuario en ese momento si quiere que el servicio renuncie a reproducir automáticamente otro episodio más allá de cierta hora de la noche. Esto va más allá de simplemente hacer lo que Netflix hizo en reacción a las críticas y ofrecer a los usuarios la posibilidad de navegar profundamente en un menú para convertir reproducción automática desactivada.

Principio 3: Justicia

El tercer principio tiene que ver con la distribución equitativa de las cargas y los beneficios de la investigación. La violación de este principio se produce cuando un grupo asume claramente los costos de la investigación, mientras que otro grupo obtiene sus beneficios. Un ejemplo es dirigirse a personas de bajos medios socioeconómicos para que participen en un estudio que da como resultado una droga que solo los ricos pueden permitirse. En un momento en que las sensibilidades y demandas de equidad, diversidad e inclusión son altas, es especialmente importante que los líderes empresariales evalúen si los empujones están afectando negativamente a un grupo sobre otro. ¿El diseño está empujando a los clientes de una raza u origen étnico en particular más que a otros y está dando lugar a desigualdades? ¿Hay sesgos integrados en el algoritmo que no estaban claros hasta que empezó a funcionar?

Las empresas son cada vez más potentes gracias a las numerosas actividades que realizamos en línea y a los avances en ciencia de datos e inteligencia artificial. Están empezando a entender realmente qué es lo que nos hace sentir bien. Sin embargo, estos avances significan que es aún más importante que los líderes de la industria establezcan estándares sobre lo que está permitido y lo que es correcto.

— Escrito por Neeti Sanyal