Tenemos que abordar los riesgos de la IA como lo hacemos con los desastres naturales

José A. Bernat Bacete/Getty Images

Los riesgos que representan los dispositivos inteligentes pronto superarán la magnitud de los asociados a los desastres naturales. Decenas de miles de millones de sensores conectados están integrados en todo, desde robots industriales y sistemas de seguridad hasta coches autónomos y refrigeradores. Al mismo tiempo, las capacidades de los algoritmos de inteligencia artificial (IA) evolucionan rápidamente. Nuestra creciente dependencia de tantos dispositivos inteligentes y conectados abre la posibilidad de paradas a escala mundial.

La buena noticia es que los desastres naturales en sí mismos, que Munich Re afirma que causó pérdidas económicas de 330 000 millones de dólares en todo el mundo en 2017, proporcione una plantilla sobre cómo mitigar el creciente y catastrófico riesgo que representa la IA. Como lo han hecho con las condiciones meteorológicas extremas y los desastres naturales, las empresas pueden empezar a establecer protocolos y normas internacionales para regular la IA, no solo dentro de sus propias paredes, sino también para poner en marcha procesos para trabajar con otras empresas, aseguradoras y responsables políticos.

Planes de recuperación de dispositivos inteligentes

Hoy en día, muchas empresas están expuestas a riesgos de dispositivos inteligentes que podrían perjudicar tanto a sus propias operaciones como a sus clientes. Sin embargo, pocos han cuantificado formalmente el tamaño de sus ingresos en riesgo y su posible responsabilidad. Tampoco han establecido protocolos de seguridad y protección para posibles eventos de IA de Black Swan.

Centro Insight

• Los riesgos y las recompensas de la IA

  Patrocinado por SAS

  Evaluar las oportunidades y los posibles escollos.

Deberían. Al igual que los riesgos asociados a los desastres naturales, las empresas no pueden protegerse completamente contra los riesgos de los dispositivos inteligentes mediante la contratación de un seguro; deben tener planes de recuperación en el peor de los casos. Los gerentes tienen que averiguar las vulnerabilidades de sus dispositivos inteligentes de mayor y menor riesgo, añadir sistemas redundantes y, potencialmente, configurar el equivalente en IA de los sistemas de alerta temprana de tsunamis. Además, necesitan la posibilidad de cambiar a entornos controlados manualmente en caso de que haya que apagar los sistemas de inteligencia artificial y retirar productos inteligentes defectuosos.

Los planes de contingencia deben ir más allá de un manual de estrategias para desastres naturales. Dados los muchos puntos posibles de conectividad, será mucho más difícil predecir, identificar y corregir la causa de los fallos a gran escala de los dispositivos inteligentes. Descifrar y reprogramar un dispositivo inteligente defectuoso es aún más complicado que crear un parche para luchar contra un ciberataque malévolo, ya que no está claro qué reglas siguen las máquinas.

Como resultado, ninguna empresa podrá recuperarse por sí sola. Para recuperarse del posible impacto de una serie de perturbaciones mundiales relacionadas con la IA en cascada, los directivos deberán tener en cuenta las vulnerabilidades que existen en todas partes, desde sus proveedores hasta sus clientes. Abordar esas vulnerabilidades requerirá la coordinación entre un gran número de proveedores de servicios tecnológicos y otras empresas que podrían contraer o propagar una infección de IA a otras personas, independientemente de quién sea el culpable.

Productos y servicios de seguro de IA

Las aseguradoras deberían cuantificar su exposición a una crisis mundial de dispositivos inteligentes, ofrecer nuevos productos y asesorar a las empresas y los gobiernos. A pesar de tener unos 700 000 millones de dólares en capital disponible en los Estados Unidos y cientos de miles de millones de dólares más en todo el mundo, los balances de las aseguradoras de propiedades y accidentes son demasiado pequeños para cubrir todas las posibles pérdidas causadas por un desastre mundial de dispositivos inteligentes. Sin embargo, las aseguradoras pueden utilizar los datos recopilados sobre las pérdidas en todos los sectores para asesorar a las empresas y los gobiernos sobre la mejor manera de cuantificar su posible exposición en el peor de los casos.

Como lo han hecho en el caso de las catástrofes naturales, las aseguradoras también pueden fomentar las salvaguardias del sector público. Como las aseguradoras no pueden mitigar por completo los enormes riesgos que representan los fenómenos meteorológicos extremos, los gobiernos de muchos países desarrollados y organizaciones internacionales proporcionan ayuda en caso de catástrofes naturales a través de agencias gubernamentales como la Agencia Federal para el Manejo de Emergencias y los programas públicos de seguro contra inundaciones. Las aseguradoras deben ayudar a movilizar recursos similares del sector público para ayudar a las posibles víctimas de un desastre con dispositivos inteligentes con IA.

Además, pueden empezar a asesorar a los clientes sobre cómo pueden mejorar sus protocolos de seguridad y protección para evitar las peligrosas repercusiones de la fusión de un dispositivo inteligente. Hoy, algunas de las principales aseguradoras sugieren procedimientos de seguridad que las empresas podrían seguir para atender las filtraciones e interrupciones de la información en caso de un fallo global de los sistemas interconectados. Pero también deberían empezar a explorar las medidas para hacer frente a cuando los dispositivos inteligentes se hagan aún más sofisticados y, potencialmente, establezcan y sigan sus propios objetivos.

Protocolos internacionales de IA

Por último, los responsables políticos deberían establecer directrices internacionales de confianza y ética que rijan el desarrollo y la implementación de productos y sistemas de IA cada vez más avanzados. Para reducir el impacto futuro de los desastres naturales, los gobiernos y las organizaciones internacionales, como la Cruz Roja y el Banco Mundial, recopilan y comparten datos sobre las destructivas ramificaciones y el apoyo necesario para ayudar a las víctimas. Una inteligencia similar será fundamental para frenar el impacto de las posibles crisis de los dispositivos inteligentes a medida que la inteligencia artificial evolucione y el número de dispositivos, sensores y actuadores del IoT (Internet de las cosas) conectados supere los 46 000 millones en 2021, según Juniper Research.

Alrededor de una docena de gobiernos, empresas de tecnología y organizaciones internacionales, como el Instituto de Ingenieros Eléctricos y Electrónicos y el Foro Económico Mundial, están empezando a explorar los protocolos globales de confianza y ética de la IA para mantener el control de los sistemas y productos interconectados impulsados por la IA. Estos foros están empezando a profundizar en la comprensión de los posibles daños que podrían causar los dispositivos inteligentes y de la necesidad de adoptar mejores prácticas. Pero hay que hacer mucho más.

Establecer los recursos necesarios para reducir los riesgos que conllevará la transición mundial a redes más inteligentes e interconectadas será difícil y costoso. Pero no podemos darnos el lujo de no hacerlo y nuestra experiencia en respuesta a algunas de las peores «tormentas de 100 años» del mundo ofrece un valioso punto de partida para averiguar cómo anticiparse a posibles desastres aún más graves. Solo necesitamos que las empresas, las aseguradoras y los responsables políticos reconozcan que estos esfuerzos son una inversión esencial en nuestro futuro.