¿Podemos confiar en las máquinas que se parecen demasiado a nosotros?

Los asistentes inteligentes con voz humana, como Siri, Alexa, el Asistente de Google, Cortana y similares, están proliferando. En poco tiempo hablaremos con casi cualquier cosa que tenga un interruptor eléctrico y todas esas cosas nos responderán con voz humana. Estos sistemas se fabrican cada vez más para que suenen como nosotros, con nuestros um y ah. Y eso no es bueno, explica el tecnólogo David Weinberger.

••• Muy pronto todo tendrá una voz. Su teléfono ya tiene uno y quizás su altavoz inteligente. Su coche. El mando a distancia de su televisor. Pronto, su tostadora. Es probable que esas voces sean muy fiables y estén basadas en una mentira. Por el momento, para muchos de nosotros, nuestra experiencia más común de interactuar con un ordenador que habla con una voz que suena humana ocurre por teléfono con un estafador que intenta hacernos una donación a una organización benéfica falsa o pagar por ayuda con un problema de Windows que no tenemos. Pero en términos de conciencia pública, asociamos cada vez más las aplicaciones de ordenador con voz humana con asistentes digitales como Siri, Alexa, el Asistente de Google, Cortana y similares. Estas interfaces de usuario de estos asistentes son más prácticas que los botones y las teclas: puede interactuar con ellos con ambas manos sujetando a su hijo, obtener sus respuestas sin tener que dejar de controlar el huevo que está friendo y no tener que preocuparse en absoluto por los errores tipográficos. Y ahora la próxima ola está en camino: las interfaces de voz son la solución perfecta, por ejemplo, para el Internet de las cosas, todos esos dispositivos y aparatos domésticos conectados que, de otro modo, tendrían cada uno sus propias interfaces y pantallas confusas. En poco tiempo hablaremos con casi cualquier cosa que tenga un interruptor eléctrico, y todas esas cosas responderán con voz humana. Todos estos sistemas, especialmente los asistentes, tienen un incentivo para decirnos la verdad. Al fin y al cabo, cuando salgamos descubriremos si no hace mucho sol, como nos prometió nuestro asistente digital. Cuando lleguemos a casa y saquemos la cena del horno, comprobaremos si las garantías de que precalentó nuestro horno no tenían fundamento. Puede que incluso descubramos que Kevin Bacon no es más alto que Tom Hanks, a pesar de lo que nos haya dicho nuestra encantadora asistente. En estos casos sencillos y prácticos, si descubrimos que estos asistentes no nos dicen la verdad, simplemente dejaremos de usarlos. Pero también todos tienen un incentivo para decirnos una gran mentira cada vez que hablan: que son como nosotros. Por eso el asistente de IA dúplex de Google dice «um» a veces.[Dúplex](https://www.youtube.com/watch?v=D5VN56jQMWM) es el software que, por ejemplo, llama a un restaurante y le hace una reserva sin que la persona del otro lado se entere nunca de que está hablando con una IA. Cuando Duplex es, um, no se queda sin palabras. Solo intenta engañar a la otra persona, igual que la voz de una llamada fraudulenta. Eso podría funcionar bien en este momento. A la recepcionista no le desconcertará la idea de hablar con una máquina en lugar de con un ser humano. Pero también puede erosionar una de nuestras formas fundamentales de evaluar la confianza: cómo suena alguien. Bien, Google Duplex es un caso especial y un tanto extraño. También puede ser una solución temporal: una vez que los restaurantes y otros locales tengan su propia versión de Duplex para aceptar reservas, podemos suponer que las IA de ambos lados de la llamada dejarán de fingir y completarán la transacción con pitidos y boops de robots altamente eficientes, en lugar de intentar superar a la otra. Pero mientras tanto, todos estos asistentes suenan como humanos porque sus creadores quieren nuestra confianza. Saben que estamos programados para apegarnos emocionalmente a las voces humanas. Esa es también la razón por la que estas asistentes tienden a usar por defecto las voces de las mujeres: los humanos, al menos en Occidente,[al parecer encontrar](https://www.wired.com/2015/10/why-siri-cortana-voice-interfaces-sound-female-sexism/) esas voces son más fiables. Si Apple pudiera hacer que Siri nos acariciara con su nariz fría y pidiera que la acariciaran, probablemente lo haría. Pero eso no haría que estos asistentes fueran más confiables. Hablar como un humano y como una mujer de la especie aumenta nuestra confianza, pero no porque los sistemas sean más confiables. Si sonar como una rana con talento influyera en nuestras preferencias biológicas, Kermit pondría la voz de Siri. No se debe confiar en una confianza inmerecida. Además, toda esta humanización no está alineada con nuestros intereses reales. Si bien a Alexa le gusta pensar que quiero relajarme con ella en una mecedora en el porche de mi casa y compartir una copa de su famoso té dulce, esa no es realmente la forma más eficiente de que una máquina nos comunique información. Me gustaría poder decirle a Alexa que hable más rápido y que se salte las bromas. De hecho, un dispositivo que habla con una voz plana y rápida diseñado únicamente para transferir información de manera eficiente puede ser mejor para indicar que los intereses de su fabricante están alineados con los nuestros: solo queremos saber que la estufa estará a 425 °F durante diez minutos y luego bajará a 350 °F durante treinta minutos. No necesitamos la estufa para fingir que se preocupa por nosotros. De hecho, una voz mecánica puede generar más confianza que todas esas, de la misma manera que puede serlo un humano que habla con claridad, sin halagos ni charlas. Al menos para algunos de nosotros. Puede que sea demasiado pedir que nuestros dispositivos no traten de hablar como los humanos nada más sacarlos de la caja. Pero a medida que las cosas que nos rodean comiencen a competir por nuestra atención y nuestra confianza al hablar con voces humanas hogareñas pero falsas, como en una película distópica de Disney, las empresas descubrirán que darnos la opción de ordenar a nuestros asistentes digitales que hablen como las máquinas sin alma que son tiene sentido desde el punto de vista empresarial.