Gestión de las herramientas de toma de decisiones de IA

La naturaleza de las microdecisiones requiere cierto nivel de automatización, especialmente para las decisiones en tiempo real y de mayor volumen. La automatización la posibilitan los algoritmos (las reglas, las predicciones, las restricciones y la lógica que determinan cómo se toma una microdecisión). Y estos algoritmos de toma de decisiones se describen a menudo como inteligencia artificial (IA). La pregunta fundamental es cómo gestionan los gestores humanos este tipo de sistemas basados en algoritmos. Un sistema autónomo es muy fácil desde el punto de vista conceptual. Imagínese un coche sin conductor sin volante. El conductor simplemente le dice al coche adónde ir y espera lo mejor. Pero en el momento en que haya un volante, tiene un problema. Debe informar al conductor de cuándo quiere intervenir, cómo puede intervenir y con qué antelación le avisará cuando sea necesario intervenir. Debe pensar detenidamente en la información que presentará al conductor para ayudarlo a realizar la intervención adecuada.

••• El uso de la IA por parte de su empresa no hará más que aumentar, y eso es bueno. La digitalización permite a las empresas operar a un nivel atómico y tomar millones de decisiones cada día sobre un solo cliente, producto, proveedor, activo o transacción. Pero estas decisiones no las pueden tomar personas que trabajen en una hoja de cálculo. A estas decisiones granulares e impulsadas por la IA las llamamos «microdecisiones» (tomadas de Taylor y Raden»[Sistemas lo suficientemente inteligentes](https://www.amazon.com/Smart-Enough-Systems-Competitive-Automating/dp/0132347962/)»). Requieren un cambio total de paradigma, pasar de tomar decisiones a tomar «decisiones sobre decisiones». Debe gestionar un nuevo nivel de abstracción mediante reglas, parámetros y algoritmos. Este cambio se está produciendo en todos los sectores y en todos los tipos de toma de decisiones. En este artículo proponemos un marco sobre cómo pensar en estas decisiones y cómo determinar el modelo de gestión óptimo. ## Las microdecisiones requieren automatización La naturaleza de las microdecisiones requiere cierto nivel de automatización, especialmente para las decisiones en tiempo real y de mayor volumen. La automatización la posibilitan los algoritmos (las reglas, las predicciones, las restricciones y la lógica que determinan cómo se toma una microdecisión). Y estos algoritmos de toma de decisiones se describen a menudo como inteligencia artificial (IA). La pregunta fundamental es, ¿cómo gestionan los gestores humanos este tipo de sistemas basados en algoritmos? Un sistema autónomo es muy fácil desde el punto de vista conceptual. Imagínese un coche sin conductor sin volante. El conductor simplemente le dice al coche adónde ir y espera lo mejor. Pero en el momento en que haya un volante, tiene un problema. Debe informar al conductor de cuándo quiere intervenir, cómo puede intervenir y con qué antelación le avisará cuando sea necesario intervenir. Debe pensar detenidamente en la información que presentará al conductor para ayudarlo a realizar la intervención adecuada. Lo mismo ocurre con cualquier microdecisión. En el momento en que participe un humano, tiene que pensar detenidamente en cómo diseñar un sistema de decisiones que permita al humano tener una interacción significativa con la máquina. Los cuatro modelos de gestión principales que desarrollamos varían según el nivel y la naturaleza de la intervención humana: los llamamos HITL, HITLFE, HOTL, HOOTL. Es importante reconocer que se trata de un espectro y, aunque hemos extraído los modelos de gestión clave, hay subvariantes basadas en la división entre humanos y máquinas y en el nivel de abstracción de la gestión en el que el humano interactúa con el sistema. ## La gama de opciones de gestión **Humano al tanto (HITL)**: Un humano cuenta con la ayuda de una máquina. En este modelo, el ser humano toma las decisiones y la máquina solo proporciona apoyo a las decisiones o la automatización parcial de algunas decisiones o partes de las decisiones. Esto se denomina a menudo amplificación de inteligencia (IA). Recoger y eliminar los residuos y el reciclaje es un negocio complejo en el que todo, desde la meteorología hasta las normas locales sobre ruido, la distribución de los estacionamientos y las cerraduras de las puertas, los tipos de reciclaje y los vertederos, la disponibilidad de los conductores y las capacidades de los camiones, todos contribuyen a una operación eficiente. Una empresa de la lista Fortune 500 está invirtiendo mucho en el uso de la IA para mejorar sus operaciones. Reconocen que el valor de la IA a menudo proviene de ayudar a los humanos a hacer mejor su trabajo. Un ejemplo es ayudar a los despachadores a gestionar los billetes y las rutas de forma más eficaz. Muchas cosas pueden impedir un servicio sin problemas, por ejemplo, la necesidad de una llave o código específicos, los intervalos horarios en los que es o no posible la recogida, las restricciones de ancho y largo, las instrucciones para mover o abrir las cosas, la construcción temporal y mucho más. Un bot desarrollado recientemente rastrea todos los billetes y solicitudes de varios sistemas para identificar cualquier cosa que pueda afectar a una parada en particular y lo pone en conocimiento del despachador. Identifica de forma proactiva todos los posibles problemas de la ruta tal como está configurada actualmente (y lo vuelve a hacer cuando se añaden, mueven o eliminan paradas durante el día) y los despachadores lo pueden utilizar de forma reactiva mientras buscan la mejor manera de añadir solicitudes a las rutas de a bordo. El despachador humano monitorea el sistema mientras trabaja para liberar entre un 20 y un 25% del día mediante la automatización de miles de decisiones sobre los billetes de servicio **Humano al tanto de las excepciones (HITLFE)**: La mayoría de las decisiones están automatizadas en este modelo y el humano solo gestiona las excepciones. Para las excepciones, el sistema requiere el juicio o la participación del humano antes de poder tomar la decisión, aunque es poco probable que le pida al humano que tome toda la decisión. Los humanos también controlan la lógica para determinar qué excepciones se marcan para su revisión. Una marca de belleza desarrolló un algoritmo de aprendizaje automático (ML) para predecir el aumento de las ventas de diferentes tipos de promociones y reemplazar el enfoque actual impulsado por personas. La predicción de ML tuvo en cuenta factores como la oferta, el apoyo de marketing, la estacionalidad y la canibalización para crear una previsión automática. Para muchos ascensos, la predicción del aprendizaje automático funcionó bien, pero los directivos perdieron rápidamente la confianza tras el éxito inicial, seguido rápidamente de algunos fracasos extremos, lo que se tradujo en una importante pérdida de ventas. Cuando los científicos de datos revisaron las predicciones, descubrieron que el algoritmo de aprendizaje automático tenía problemas para predecir ciertos tipos de ascensos. En lugar de abandonar el proyecto, desarrollaron un enfoque de HITLFE. La clave consistía en codificar el nivel de confianza de la máquina en sus predicciones y hacer que los humanos revisaran las predicciones en casos excepcionales en los que la máquina tenía poca confianza. **Humano al tanto (HOTL)**: En este caso, la máquina cuenta con la ayuda de un humano. La máquina toma las microdecisiones, pero el humano revisa los resultados de las decisiones y puede ajustar las reglas y los parámetros para las decisiones futuras. En una configuración más avanzada, la máquina también recomienda cambios en los parámetros o las reglas para que luego los apruebe una persona. Una empresa europea de reparto de comida necesitaba gestionar su flota de ciclistas y utilizaba una hoja de cálculo para planificar el número de «franjas horarias de entrega» necesarias para la siguiente hora/día/semana. Luego, implementaron varios incentivos, por ejemplo, aumentando la tarifa por entrega para hacer coincidir la oferta de conductores con la demanda esperada. Era un proceso muy manual e impreciso, y decidieron desarrollar un sistema completamente automatizado para probarlo con su enfoque manual. Los resultados fueron interesantes. A veces los humanos se desempeñaban mejor, a veces la máquina funcionaba mejor. Se dieron cuenta de que habían planteado mal el problema. La verdadera pregunta era cómo lograr que los humanos y las máquinas colaboraran. Esto llevó a un segundo enfoque en el que, en lugar de que las personas gestionaran a nivel de conductor, diseñaron un conjunto de parámetros de control que permitían a los directivos hacer un equilibrio entre el riesgo, el coste y el servicio. Este enfoque reconocía la naturaleza dinámica del sistema, la necesidad de hacer concesiones que pudieran cambiar con el tiempo y la necesidad fundamental de mantener el interés de los trabajos. **Humano fuera del circuito (HOOTL):** En este modelo, la máquina es monitoreada por un humano. La máquina toma todas las decisiones y el humano solo interviene estableciendo nuevas restricciones y objetivos. La mejora también es un circuito cerrado automatizado. Los ajustes, basados en los comentarios de las personas, se automatizan. El barco autónomo Mayflower explora los océanos del mundo con radares, GPS, cámaras alimentadas por IA, docenas de sensores y varios dispositivos de computación perimetral. Pero no tiene tripulación. Con los humanos completamente desinformados, el Mayflower debe detectar su entorno, predecir el rumbo, identificar los peligros, aplicar las normas de colisión y obedecer las normas del mar. Su capitán de IA lo hace de forma autónoma, moviéndose para lograr los objetivos establecidos de antemano por los humanos a cargo del proyecto. Los humanos, de vuelta en tierra, simplemente le dicen adónde ir. ## Qué puede salir mal Una empresa de viajes estadounidense implementó un sistema HOOTL completamente automatizado para el marketing de palabras clave en Google. El equipo de marketing pudo introducir un presupuesto y un objetivo y, a continuación, el sistema determinó automáticamente la asignación óptima de la lógica de gastos y ofertas en millones de palabras clave. El sistema funcionó bien al principio y permitió aumentar la eficiencia y mejorar los resultados. Sin embargo, cuando el sistema empezó a funcionar peor, el equipo no pudo explicar por qué ni tomar ninguna medida correctiva. Era un sistema totalmente de caja negra que se basaba en algoritmos propietarios, pero que en la práctica era ingestionable, y el equipo volvió a su antiguo sistema basado en reglas. Si el rendimiento mejora (aunque sea por un tiempo), los directivos están contentos, pero si las decisiones comienzan a funcionar mal, es una tarea extremadamente compleja desentrañar qué elemento del nuevo proceso es el culpable. Por ejemplo: una decisión algorítmica puede ser demasiado opaca para pasar el escrutinio reglamentario o para explicarla a los clientes descontentos. Los cambios automatizados en el algoritmo en respuesta a los comentarios recopilados por el algoritmo pueden crear una condición de carrera en la que el algoritmo se desvíe del rumbo. Es posible que se remitan demasiadas decisiones para su revisión manual, lo que limita considerablemente el valor del algoritmo. O la participación humana en el algoritmo puede estar en un nivel incorrecto, lo que provoca que los usuarios humanos dejen de lado el algoritmo. Parte de la solución consiste en elegir el modelo correcto de participación humana para una decisión determinada. Además, se deben monitorear todos los microsistemas de toma de decisiones, independientemente de la participación humana. La supervisión garantiza que la toma de decisiones sea «buena» o, al menos, adecuada para su propósito ahora, al tiempo que crea los datos necesarios para detectar problemas y mejorar sistemáticamente la toma de decisiones con el tiempo. También es fundamental que mida la eficacia de la toma de decisiones: deben capturarse al menos dos métricas que se centren en la eficacia de la toma de decisiones. No se puede optimizar ninguna decisión empresarial del mundo real centrándose en una sola métrica, siempre hay una compensación. Además, siempre debe recopilar información sobre la forma en que el sistema tomó la decisión, no solo sobre la decisión real tomada. Esto permite explicar eficazmente las «malas» decisiones y hacer coincidir los resultados subóptimos con las características específicas de la forma en que se tomó la decisión. Por último, debería hacer un seguimiento del resultado empresarial y asignarlo a la forma en que se tomaron las decisiones. ## Decidir qué modelo es el adecuado para usted Es importante reconocer que estos sistemas evolucionarán con el tiempo gracias a las nuevas tecnologías, el deseo de las organizaciones de tomar cada vez más decisiones quirúrgicas y la mayor confianza de la dirección en la automatización. Debe decidir qué nivel de gestión humana es posible y deseable, y su apetito por el riesgo y la iteración. No hay una respuesta correcta. Sea cual sea el modelo que adopte, creemos que es fundamental incluir la IA en el organigrama y en el diseño de los procesos para garantizar que los directivos humanos se sientan responsables de sus resultados. La necesidad de sistemas más autónomos, la demanda de respuestas instantáneas por parte de los consumidores, la coordinación en tiempo real de las cadenas de suministro y los entornos remotos y automatizados se combinan para hacer que el aumento del uso de la IA en su organización sea inevitable. Estos sistemas tomarán microdecisiones cada vez más detalladas en su nombre, lo que afectará a sus clientes, sus empleados, sus socios y sus proveedores. Para tener éxito, tiene que entender las diferentes formas en las que puede interactuar con la IA y elegir la opción de gestión adecuada para cada uno de sus sistemas de IA.