Cómo cambia el cuidado de la salud cuando los algoritmos comienzan a hacer diagnósticos

Imagine que la próxima vez que vea a su médico, ella dice que tiene una enfermedad potencialmente mortal. ¿La trampa? Una computadora ha realizado su diagnóstico, que es demasiado complejo para que los humanos lo entiendan por completo. Lo que su médico puede explicar, sin embargo, es que la computadora casi siempre tiene la razón.

Si esto suena a ciencia ficción, no lo es. Es lo que el cuidado de la salud puede parecer para médicos, pacientes y reguladores de todo el mundo, ya que los nuevos métodos de aprendizaje automático ofrecen más información a partir de cantidades cada vez mayores de datos.

Los algoritmos complejos pronto ayudarán a los médicos a hacer determinaciones increíblemente precisas sobre nuestra salud a partir de grandes cantidades de información, basadas en correlaciones en gran medida inexplicables en esos datos.

Este futuro es alarmante, sin duda, debido al poder que los médicos y los pacientes comenzarán a entregar a las máquinas. Pero también es un futuro para el que debemos prepararnos —y abrazar— debido al impacto que tendrán estos nuevos métodos y a las vidas que podemos salvar potencialmente.

Tomemos, por ejemplo, un estudio liberado hoy por un grupo de investigadores de la Universidad de Chicago, la Universidad de Stanford, la Universidad de California, San Francisco y Google. El estudio, que uno de nosotros fue coautor, alimentó datos desidentificados de cientos de miles de pacientes en una serie de algoritmos de aprendizaje automático impulsados por los recursos informáticos masivos de Google.

Con una precisión extraordinaria, estos algoritmos fueron capaces de predecir y diagnosticar enfermedades, desde enfermedades cardiovasculares hasta cáncer, y predecir cosas relacionadas como la probabilidad de muerte, la duración de la estancia hospitalaria y la posibilidad de readmisión hospitalaria. Por ejemplo, dentro de las 24 horas siguientes a la hospitalización de un paciente, los algoritmos fueron capaces de predecir con más del 90% de precisión las probabilidades de morir del paciente. Estas predicciones, sin embargo, se basaron en patrones en los datos que los investigadores no pudieron explicar completamente.

Y este estudio no es atípico. El año pasado, el mismo equipo de Google utilizó datos sobre exploraciones oculares de más de 125.000 pacientes para construir un algoritmo que podría detectar retinopatía, la causa número uno de ceguera en algunas partes del mundo, con más del 90% de precisión, a la par de oftalmólogos certificados por la junta. Una vez más, estos resultados tenían las mismas limitaciones; los humanos no siempre podían comprender plenamente por qué los modelos tomaban las decisiones que tomaban. Muchos más ejemplos de este tipo están en camino.

Sin embargo, algunos ya se resisten a estos métodos, pidiendo una prohibición completa del uso de «algoritmos no explicables» en áreas de alto impacto como la salud. A principios de este año, el ministro de Estado de Francia para el sector digital declaradas de plano que no se debe usar ningún algoritmo que no se pueda explicar.

Pero oponerse a estos avances al por mayor no es la respuesta. Los beneficios de un enfoque algorítmico de la medicina son simplemente demasiado grandes para ignorarlos. Detección temprana de dolencias como cáncer de piel o enfermedad cardiovascular podría conducir a reducciones de la morbilidad gracias a estos métodos. Las economías más pobres con acceso limitado a médicos capacitados también pueden beneficiarse, ya que una serie de enfermedades pueden encontrarse y tratarse antes. Las recomendaciones de tratamiento individualizado también pueden mejorar, lo que lleva a salvar vidas para algunos y a aumentar la calidad de vida para muchos otros.

Esto no quiere sugerir que los modelos de aprendizaje automático reemplazarán a los médicos. En cambio, lo que es probable es un cambio constante a ceder responsabilidad por más de las tareas repetitivas y programables a las máquinas, lo que permite a los médicos centrarse en cuestiones más directamente relacionadas con el cuidado del paciente. En algunos casos, los médicos pueden tener la obligación legal de usar modelos que sean más precisos que la experiencia humana, como eruditos legales como A. Michael Froomkin han señalado. Esto no sacará a los médicos del circuito por completo, pero creará nuevas oportunidades y nuevos peligros a medida que la tecnología evolucione y se vuelva más poderosa.

¿Cómo debemos prepararnos para un futuro en el que la carga del diagnóstico recaiga cada vez más en los algoritmos?

Primero, los proveedores médicos, las instituciones de investigación y los gobiernos deben dedicar más recursos al campo de la «IA explicable», cuyo objetivo es ayudar a los humanos a comprender mejor cómo interactuar con decisiones algorítmicas complejas y aparentemente indescifrables. La Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), por ejemplo, ha dedicado un todo el proyecto a la cuestión, y una creciente comunidad de investigación ha surgieron en los últimos años centrado. Tal investigación será crucial para nuestra capacidad de utilizar estos algoritmos y confiar en ellos cuando lo hagamos.

Los reguladores de la salud también deben explorar nuevas formas de gobernar el uso de estos métodos. El programa piloto «Pre-CERT» de la Administración de Alimentos y Medicamentos de los Estados Unidos, dirigido a encontrar nuevas formas para evaluar tecnologías como el aprendizaje automático, es uno de esos ejemplos. Los reguladores también deben recurrir a los métodos existentes en el sector financiero, conocidos como modelos de marcos de gestión de riesgos, que se desarrollaron en respuesta a desafíos similares. A medida que los bancos adoptaron métodos complejos de aprendizaje automático en la última década, los reguladores de los Estados Unidos y la Unión Europea aplicaron estos marcos para mantener la supervisión.

Los gobiernos deben asegurarse de que las enormes cantidades de datos que requieren estos nuevos métodos no se conviertan en la provincia de sólo unas pocas empresas, como ha ocurrido en los mundos de la publicidad online y la puntuación crediticia. Los reguladores del Departamento de Salud y Servicios Humanos de los Estados Unidos que aplican las normas federales de privacidad sobre los datos médicos, junto con los legisladores federales y estatales, deberían alentar el intercambio de datos médicos, con una supervisión adecuada.

Por último, los pacientes deben ser capaces de saber cuándo y por qué sus médicos confían en algoritmos para hacer predicciones. Cuando proceda, los pacientes deben conservar la capacidad de solicitar explicaciones médicas más tradicionales y comprensibles. Si un algoritmo le da al paciente una probabilidad del 90% de morir en la próxima semana, por ejemplo, el paciente debe ser capaz de aprender más acerca de las formas en que el algoritmo fue creado, evaluado para su precisión y validado. Y deberían ser capaces de ver el diagnóstico junto con una determinación más tradicional, incluso si esta última es menos probable que sea exacta.

Abundan los desafíos para utilizar el aprendizaje automático en el cuidado de la salud. Pero estos desafíos palidecen en comparación con los beneficios que estos avances aportarán. Las vidas podrían depender de ello.

— Andrew Burt Samuel Volchenboum Via HBR.org