¿Podemos confiar en máquinas que suenan demasiado a nosotros?

Resumen.

Los asistentes inteligentes con voz humana como Siri, Alexa, Google Assistant, Cortana y similares están proliferando. En poco tiempo hablaremos con cualquier cosa que tenga un interruptor eléctrico, y todas estas cosas nos responderán con voz humana. Estos sistemas se construyen cada vez más para sonar como nosotros, con nuestros um y ah. Y eso no es bueno, explica el tecnólogo David Weinberger.

Muy pronto todo tendrá voz. Tu teléfono ya tiene uno, y tal vez tu altavoz inteligente. Tu auto. El mando a distancia de tu televisor. Pronto tu tostadora. Es probable que esas voces sean altamente confiables y basadas en una mentira.

Por el momento, para muchos de nosotros nuestra experiencia más común de interactuar con un ordenador que habla con voz humana ocurre por teléfono con un estafador tratando de hacernos dar a una caridad falsa o pagar por ayuda con un problema de Windows que no tenemos. Pero en términos de conciencia pública, cada vez más asociamos aplicaciones informáticas con voz humana con asistentes digitales como Siri, Alexa, Google Assistant, Cortana,. Estas interfaces de usuario de estos asistentes son más convenientes que botones y teclas: usted puede interactuar con ellos mientras las dos manos sostienen a su hijo, obtener sus respuestas sin tener que dejar de monitorear el huevo que está fríendo, y no tener que preocuparse por errores tipográficos en absoluto. Y ahora la siguiente ola está en camino: las interfaces de voz son la solución perfecta, por ejemplo, para el Internet de las cosas, todos aquellos dispositivos y electrodomésticos conectados que de otro modo tendrían sus propias interfaces y pantallas confusas. En poco tiempo hablaremos con cualquier cosa que tenga un interruptor eléctrico, y todas esas cosas estarán respondiendo con voz humana.

Todos estos sistemas, especialmente los asistentes, tienen un incentivo para decirnos la verdad. Después de todo, cuando salgamos descubriremos si no es realmente soleado como prometió nuestro asistente digital. Cuando lleguemos a casa y tomemos la cena del horno, averiguaremos si sus seguridades de que precalentó nuestro horno no tenían fundamento. Incluso podemos descubrir que Kevin Bacon no es más alto que Tom Hanks, a pesar de lo que nos dijo nuestro asistente. En estos casos sencillos y prácticos, si descubrimos que estos asistentes no nos dicen la verdad, simplemente dejaremos de usarlos.

Pero también todos tienen un incentivo para contarnos una gran mentira cada vez que hablan: que son como nosotros. Es por eso que el Asistente de IA Duplex de Google dice «um» a veces. Dúplex es el software que, por ejemplo, llamará a un restaurante y te hará una reserva sin que la persona del otro extremo se entere de que estaban hablando con una IA. Cuando Duplex um es, no es realmente perdida por las palabras. Es sólo tratar de engañar a la otra persona, igual que la voz de una llamada telefónica estafada. Eso podría funcionar bien en el momento — la recepcionista no se desconcertará con la idea de hablar con una máquina en lugar de con un compañero humano. Pero también puede erosionar una de nuestras formas de evaluar la confianza: cómo suena alguien.

Ahora, Google Duplex es un caso especial y algo raro. También puede ser una solución temporal: una vez que los restaurantes y otros lugares obtienen su propia versión de Duplex para tomar reservas, podemos suponer que las AI en ambos lados de la llamada dejarán de pretender y completarán la transacción en pitidos y boops robots altamente eficientes en lugar de tratar de superar al otro.

Pero mientras tanto, todos estos asistentes suenan como humanos porque sus creadores quieren nuestra confianza. Saben que estamos conectados para unirnos emocionalmente a las voces humanas. Es también por eso que estos asistentes tienden a faltar a las voces de las mujeres: nosotros, los humanos, al menos en Occidente, al parecer encontrar esas voces más fiables. Si Apple pudiera conseguir que Siri nos nuciera con su nariz fría y pidiera ser acariciada, probablemente lo haría. Pero eso no haría que estos asistentes sean más confiables.

Sonar como un humano, y como una hembra de la especie, aumenta nuestra confianza, pero no porque los sistemas sean más confiables. Si sonar como una rana talentosa jugaba en nuestras preferencias biológicas, entonces Siri sería expresada por Kermit. No se debe confiar en la confianza no ganada.

Además, toda esta humanización no está alineada con nuestros intereses reales. Aunque a Alexa le gusta pensar que quiero relajarme con ella en una mecedora en mi porche delantero y compartir un vaso de su famoso té dulce, esa no es realmente la manera más eficiente para que una máquina nos comunique información. Me gustaría poder decirle a Alexa que hable más rápido y que se salte las cortesías. De hecho, un dispositivo que habla en una voz plana y rápida diseñado para nada más que la transferencia eficiente de información puede ser mejor indicando que los intereses de su fabricante están alineados con los nuestros: sólo queremos saber que la estufa va a estar a 425F durante diez minutos y luego bajará a 350F durante treinta minutos. No necesitamos la estufa para fingir que se preocupa por nosotros. Una voz mecánica puede generar más confianza que todos esos um, de la misma manera que un humano hablando claramente, sin halagos ni charlas, puede ser. Al menos para algunos de nosotros.

Puede ser demasiado pedir que nuestros dispositivos no traten de hablar como humanos directamente de la caja. Pero a medida que las cosas que nos rodean empiezan a competir por nuestra atención y nuestra confianza hablando con voces humanas caseras pero falsas como en alguna película distópica de Disney, las empresas pueden encontrar que darnos la opción de mandar a nuestros asistentes digitales a hablar como las máquinas sin alma que son tiene sentido comercial.

— Escrito por David Weinberger