¿Cuándo confiamos más en las recomendaciones de la IA que en las de las personas?

Las empresas recurren cada vez más a la IA para hacer recomendaciones a los consumidores. Pero a veces los consumidores no confían en los consejos de la IA y quieren las sugerencias de un humano. Para entender cuándo los consumidores confían en uno o en otro, los autores realizaron una serie de experimentos. Su conclusión: los consumidores tienden a creer que la IA es más competente a la hora de hacer recomendaciones cuando buscan ofertas funcionales o prácticas, y las personas cuando están más interesadas en las características sensoriales o experienciales de una oferta. Estos puntos de vista se basan en creencias erróneas. Sin embargo, hay formas en las que los vendedores pueden superar este sesgo.

••• Cada vez más empresas aprovechan los avances tecnológicos en el aprendizaje automático, el procesamiento del lenguaje natural y otras formas de inteligencia artificial para ofrecer recomendaciones relevantes e instantáneas a los consumidores. Desde Amazon hasta Netflix y REX Real Estate, las empresas utilizan los recomendadores de IA para mejorar la experiencia del cliente. Los recomendadores de IA también se utilizan cada vez más en el sector público para guiar a las personas hacia los servicios esenciales. Por ejemplo, el[El Departamento de Servicios Sociales de la Ciudad de Nueva York utiliza la IA](https://www.aitrends.com/ai-in-government/citizen-engagement-how-ai-is-helping-new-york-city-dept-of-social-services/) para dar recomendaciones a los ciudadanos sobre las prestaciones por discapacidad, la asistencia alimentaria y el seguro médico. Sin embargo, el simple hecho de ofrecer asistencia de IA no necesariamente permitirá que las transacciones tengan más éxito. De hecho, hay casos en los que las sugerencias y recomendaciones de la IA son útiles y otros en los que pueden ser perjudiciales. ¿Cuándo confían los consumidores en la palabra de una máquina y cuándo se resisten a ella? Nuestra investigación sugiere que el factor clave es si los consumidores se centran en los aspectos funcionales y prácticos de un producto (su valor utilitario) o se centran en los aspectos experienciales y sensoriales del producto (su valor hedónico). En un[artículo](https://www.researchgate.net/publication/343750244_Word-of-Machine_Effect_Shifts_in_Utilitarian_and_Hedonic_Trade-offs_Determine_Preference_For_or_Resistance_to_Artificial_Intelligence_Recommendersv) en el _Revista de marketing —_ basado en datos de más de 3000 personas que participaron en 10 experimentos. Proporcionamos pruebas que respaldan lo que denominamos un _efecto palabra de máquina_: las circunstancias en las que la gente prefiere los recomendadores de IA a los humanos. ### El efecto palabra de una máquina. El efecto palabra de máquina se debe a la creencia generalizada de que los sistemas de IA son más competentes que los humanos a la hora de dar consejos cuando se desean cualidades utilitarias y son menos competentes cuando se desean cualidades hedónicas. Es importante destacar que el efecto palabra de una máquina se basa en una creencia laica que no se corresponde necesariamente con la realidad. El hecho es que los humanos no son necesariamente menos competentes que la IA a la hora de evaluar y evaluar los atributos utilitarios. Viceversa, la IA no es necesariamente menos competente que los humanos a la hora de evaluar y evaluar los atributos hedónicos. De hecho,[La IA selecciona arreglos florales para 1-800 flores](https://www.prnewswire.com/news-releases/1-800-flowerscom-launches-beta-of-gwyn-an-artificial-intelligence-powered-online-shopping-experience-300261379.html) y[crea nuevos sabores para empresas de alimentos como McCormick](https://www.wsj.com/articles/food-companies-add-ai-to-their-recipes-11570662421). Sin embargo, nuestros experimentos sugieren que si alguien se centra en las cualidades utilitarias y funcionales, desde la perspectiva del vendedor, la palabra de una máquina es más eficaz que la palabra de los recomendantes humanos. Para alguien que se centra en las cualidades experienciales y sensoriales, los recomendantes humanos son más eficaces. Por ejemplo, en uno de nuestros experimentos evaluamos el efecto de la palabra de una máquina en la propensión de las personas a elegir productos y en las experiencias de consumo de las personas. Para ello, pedimos a más de 200 transeúntes en Boston (antes de la COVID-19) que participaran en una prueba de productos para el cuidado del cabello en un mercado ciego. Utilizando folletos para explicar la prueba, pedimos a cada persona que seleccionara una de las dos muestras de productos para el cabello, una recomendada por la IA y otra por un humano. Como se predijo, cuando se pidió a los transeúntes que se centraran únicamente en los atributos utilitarios y funcionales, como la practicidad, el rendimiento objetivo y la composición química, más personas eligieron la muestra recomendada por la IA (67%) que la recomendada por una persona. Cuando se les pidió a los transeúntes que se centraran únicamente en los atributos sensoriales y experienciales, como el placer, el aroma y un ambiente similar al de un spa, más personas eligieron la muestra recomendada por humanos (un 58%) que la recomendada por la IA. El efecto palabra de una máquina también surgió en un segundo experimento de campo que realizamos en la ciudad turística italiana de Cortina. Primero preparamos a la gente para que considerara una inversión inmobiliaria basándonos únicamente en sus cualidades funcionales y prácticas o en sus cualidades emocionales y sensoriales. Luego, pedimos a las personas que eligieran una de las dos selecciones de propiedades inmobiliarias: una seleccionada por un agente inmobiliario humano y otra mediante un algoritmo de IA. Cuando se les presentó una propuesta centrada en la practicidad, más personas (un 60%) eligieron una lista de propiedades seleccionadas por la IA. Sin embargo, más participantes (el 76%) eligieron la lista de propiedades seleccionadas por humanos en respuesta a una propuesta que apelaba a los sentidos, como el disfrute. El efecto palabra de una máquina se extendió incluso al consumo de los productos y a la percepción del sabor. Reclutamos a 144 participantes del campus de la Universidad de Virginia y les informamos de que estábamos probando recetas de tartas de chocolate para una panadería local. A los participantes se les dieron dos opciones: un pastel creado con ingredientes seleccionados por un chocolatero de IA y otro creado con ingredientes seleccionados por un chocolatero humano. A continuación, se pidió a los participantes que comieran uno de los dos pasteles, que tenían el mismo aspecto e ingredientes, y que calificaran el pastel según dos características experienciales y sensoriales (sabor y aromas indulgentes, agradable para los sentidos) y dos atributos utilitarios/funcionales (propiedades químicas beneficiosas y salubridad). Los participantes calificaron el pastel recomendado por la IA como menos sabroso pero más saludable que el pastel recomendado por el chocolatero humano. En los casos en que los rasgos utilitarios son lo más importante, el efecto palabra de máquina es más pronunciado. Mediante una encuesta en línea, pedimos a 303 encuestados que se imaginaran comprar un abrigo de invierno y que revisaran una lista de las cualidades prácticas y funcionales (por ejemplo, la transpirabilidad) y experienciales/sensoriales (por ejemplo, el tipo de tejido) del abrigo, valorando lo mucho que les importaban estas características. Cuanto más se preocupaban los participantes por las características utilitarias, más preferían un asistente de compras de IA antes que un humano, y cuanto más se preocupaban por las características hedónicas, más preferían un asistente de compras humano a una IA. Aunque está claro que la confianza de los consumidores en la asistencia de la IA es mayor cuando buscan productos utilitarios (por ejemplo, ordenadores y lavavajillas), esto no significa que las empresas que ofrecen productos que prometen experiencias más hedónicas (por ejemplo, fragancias, comida y vino) no tengan suerte en lo que respecta a utilizar los recomendadores de la IA. De hecho, hemos descubierto que las personas aceptan las recomendaciones de la IA siempre y cuando la IA funcione en asociación con los humanos. Por ejemplo, en un experimento, enmarcamos la IA como _aumentado_ inteligencia que _mejora_ y _apoya_ recomendadores humanos en lugar de sustituirlos. Al recomendador híbrido entre IA y humanos le fue tan bien como al recomendador solo para humanos, incluso cuando las consideraciones sensoriales y experienciales eran importantes. Estos hallazgos son importantes porque representan la primera prueba empírica de[inteligencia aumentada](https://www.forbes.com/sites/danielaraya/2019/01/22/3-things-you-need-to-know-about-augmented-intelligence/#46dea0bd3fdc) que se centra en la IA _asistencial_ papel en el avance de las capacidades humanas, más que como una alternativa a los humanos, que es como se percibe normalmente. Una empresa que está teniendo éxito con este enfoque es[Stitch Fix](https://algorithms-tour.stitchfix.com/#human-computation), que utiliza la IA en asociación con estilistas humanos para elegir la ropa para sus clientes. ### Convencer al cliente de que dé a la IA el beneficio de la duda. ¿Cómo podrían los directivos corregir la errónea creencia laica sobre la competencia de la IA frente a los humanos para dar consejos? Nuestra investigación descubrió varias intervenciones que podrían atenuarlo. En un experimento, pedimos a los participantes que consideraran lo contrario de lo que inicialmente creían cierto con respecto a la competencia en IA. Lo hicimos pidiéndoles que consideraran las formas en las que podrían equivocarse acerca de lo que esperaban que fuera bueno un humano o un recomendador de IA. Descubrimos que hacer que las personas consideraran un punto de vista diferente sobre la capacidad del recomendante reducía el efecto que encontramos en los experimentos anteriores. En otras palabras, los recomendantes de la IA obtuvieron puntuaciones más altas en una escala hedónica, lo que sugiere que las personas estaban más abiertas a los recomendantes de la IA incluso cuando se centraban en las cualidades experienciales o sensoriales, y los recomendadores humanos obtuvieron puntuaciones más altas en una escala utilitaria, lo que sugiere que las personas estaban más abiertas a los recomendantes humanos incluso cuando buscaban cualidades funcionales y prácticas. En el mundo real, es difícil convencer a un consumidor de que piense lo contrario de lo que cree fundamentalmente, por lo que probamos una intervención más práctica y sencilla para determinar el efecto de eliminar los prejuicios. Invitamos a 299 encuestados en Internet a leer sobre una aplicación llamada «Cucina» que se basaba en la IA para dar recomendaciones de recetas. Dentro de la aplicación, los participantes podían interactuar con un bot de chat (un chef de IA) que estaba programado para ayudarlos. El bot de chat saludó a cada participante y se presentó («¡Hola, Mark! ¡Estoy aquí para sugerirle una receta para que la pruebe!»). A continuación, el chef de IA siguió el protocolo de considerar lo contrario con un divertido e interactivo codazo: «Algunas personas podrían pensar que un chef con inteligencia artificial no es competente para dar sugerencias de comida, pero es un error de juicio. Por un momento, deje de lado sus expectativas sobre mí. Cuando se trata de hacer sugerencias de comida, ¿podría considerar la idea de que podría ser bueno en cosas en las que no espera que sea bueno?» Eso se tradujo en una percepción más favorable de la recomendación de la IA, incluso cuando la gente tenía en cuenta las cualidades sensoriales y experienciales de una receta, como el sabor y los aromas. Nuestros hallazgos son reveladores para los directivos que están aprovechando las notables oportunidades que ofrece la tecnología y que están creciendo en el mercado actual. Si bien existe una correlación clara entre los atributos utilitarios/funcionales y experienciales/sensoriales y la confianza (o desconfianza) de los consumidores en los que recomiendan la IA, hay formas en las que las organizaciones pueden diseñar la experiencia del cliente para aprovechar el efecto palabra de una máquina. Por ejemplo, empresas como Netflix y YouTube podrían hacer hincapié en las recomendaciones basadas en la IA cuando los atributos utilitarios son relativamente más importantes para las personas (por ejemplo, cuando seleccionan un documental para verlo) y en las recomendaciones basadas en humanos («usuarios similares») cuando los atributos hedónicos son relativamente más importantes (por ejemplo, al seleccionar una película de terror para verla). Del mismo modo, una empresa del sector de la hostelería como TripAdvisor podría hacer hincapié en las recomendaciones basadas en la IA para los servicios de viajes de negocios y restar importancia a las recomendaciones basadas en la IA para los servicios de viajes de placer. A medida que las empresas se enfrenten al desafío de atraer y retener clientes en un mercado digital abarrotado, las que entiendan bien las condiciones en las que los consumidores confían y no confían en la «palabra» de los recomendadores de IA tendrán una ventaja competitiva.