Pensar en la ética de la nueva tecnología... antes de que haya un problema

Hay un patrón conocido cuando se introduce una nueva tecnología: crece rápidamente, llega a impregnar nuestras vidas y solo entonces la sociedad comienza a ver y a abordar los problemas que crea. Pero, ¿es posible evitar posibles problemas? Si bien las empresas no pueden predecir el futuro, pueden adoptar un marco sólido que les ayude a prepararse para los impactos inesperados y responder a ellos. En primer lugar, al lanzar una nueva tecnología, es vital hacer una pausa e intercambiar ideas sobre los posibles riesgos, tener en cuenta los resultados negativos e imaginar las consecuencias no deseadas. En segundo lugar, también puede resultar esclarecedor preguntarse, desde el principio, quién sería responsable si una organización tuviera que responder por las consecuencias negativas o no deseadas de su nueva tecnología, ya sea testificando ante el Congreso, compareciendo ante el tribunal o respondiendo a las preguntas de los medios de comunicación. En tercer lugar, nombre a un director de ética tecnológica.

••• Todos queremos que la tecnología de nuestras vidas cumpla su promesa: que nos deleite más de lo que nos asusta, que ayude mucho más de lo que perjudica. También sabemos que cada nueva tecnología tiene que ganarse nuestra confianza. Con demasiada frecuencia el patrón es el siguiente: se introduce una tecnología, crece rápidamente, llega a impregnar nuestras vidas y solo entonces la sociedad comienza a ver y a abordar los problemas que pueda crear. No se trata exclusivamente de un fenómeno moderno. Pensemos en los primeros días del automóvil producido en masa. A medida que los conductores adoptaron un nuevo y emocionante modo de transporte, los accidentes y las muertes se produjeron muchas veces[más probable](https://cdan.dot.gov/tsftables/tsfar.htm) de lo que están hoy. Imagínese si el crecimiento del automóvil hubiera sido diferente, con el desarrollo de los cinturones de seguridad, la construcción de carreteras más seguras y la aplicación de mejores leyes de tráfico mucho antes, junto con las innovaciones en los motores que nos dieron más potencia y mayor velocidad. Se podrían haber mitigado muchos riesgos y se podrían haber evitado muchas tragedias. Las empresas tienen que aprender a ser administradores responsables de la inteligencia artificial (IA) que despliegan, las redes 5G que han empezado a construir y mucho más que se nos acerca, desde la computación cuántica hasta la realidad virtual (VR) y la cadena de bloques. Las tecnologías que están impulsando cambios radicales y que son fundamentales para el crecimiento de la economía deberían ser confiables. Las empresas que ofrecen avances tecnológicos tienen que actuar de forma ética. Hay mucho en juego. Sin embargo, saber lo que hay que hacer no es lo mismo que saber cómo hacerlo. Las organizaciones deberían tratar de anticipar y abordar los posibles efectos de las tecnologías que despliegan. Si bien no pueden predecir el futuro, pueden adoptar un marco sólido que les ayude a prepararse y responder a los impactos inesperados. Un marco así tendría que cambiar radicalmente la forma en que desarrollamos e implementamos las nuevas tecnologías. Tendría que renovar los procesos existentes. Cualquier marco debe reflejar que se trata de un esfuerzo de equipo, no solo del trabajo de los ingenieros y los directores, sino que debe abarcar todas las disciplinas. Debería abrir las puertas a nuevas formas de pensar sobre los desafíos. El objetivo aquí es describir un marco que pueda hacer estas cosas. ## Involucrar a especialistas Los que están inmersos en el mundo de la ingeniería de software —y me incluyo en este grupo— suelen inclinarse a ver, ante todo, la promesa de una tecnología y la oportunidad de crear valor. A medida que las preguntas sobre los impactos de una tecnología se hacen más comunes, a los ingenieros aún les queda mucho por hacer para entender los posibles daños. Los ingenieros y los desarrolladores de software no tienen necesariamente toda la experiencia que necesitan para entender y abordar los riesgos éticos que su trabajo puede plantear. En otras palabras, aquí podría haber una función para especialistas de otras disciplinas. Tenemos que cambiar nuestras prioridades para ayudar a los equipos de desarrollo de tecnología a pensar con más previsión y matices sobre estos temas, guiados por quienes tienen los conocimientos más relevantes. Pensemos, por ejemplo, en el desarrollo de una herramienta de formación en realidad virtual que sumerja al usuario en una situación de respuesta de emergencia difícil o dramática. A medida que la tecnología evoluciona, las simulaciones de realidad virtual se vuelven tan realistas que tal vez sea necesario abordar la posibilidad de un trauma real a causa de una experiencia virtual. El equipo querría que un psicólogo participara, que trabajara codo a codo con los ingenieros de software, para aprovechar el conjunto de conocimientos sobre lo que puede causar un trauma o cómo podría identificarse y abordarse. Tomemos la fabricación en la nube y la impresión 3D como otro ejemplo. A medida que las empresas busquen estas tecnologías, que tienen el potencial de cambiar drásticamente las habilidades que se necesitan en la fábrica, podrían hablar con economistas laborales que puedan arrojar luz sobre problemas más amplios de la fuerza laboral. A medida que la conectividad 5G pone en funcionamiento fábricas que se pueden gestionar de forma totalmente remota, las empresas tal vez quieran consultar con especialistas en seguridad de las plantas, ciberseguridad y quizás incluso filosofía para entender los posibles peligros que crean las fábricas que no emplean a personas. ## Haga una pausa y planifique Durante la fase de planificación estratégica, el equipo centrará su atención de forma natural en lo que es posible. Ahí es donde están la emoción y el entusiasmo. Pero también hay que prestar atención a entender lo que puede salir mal. Es vital hacer una pausa e intercambiar ideas sobre los posibles riesgos, tener en cuenta los resultados negativos e imaginar las consecuencias no deseadas. Esto podría significar que, a medida que las empresas se precipitan hacia un futuro 5G con un salto gigantesco en la velocidad de los datos y una conectividad ubicua, deberían hacer una pausa para considerar y abordar los nuevos problemas de privacidad, quizás mucho más allá de los que ya estamos abordando. O podrían considerar cómo este aumento en la velocidad de los datos puede exacerbar la inequidad en nuestra sociedad y ampliar la brecha digital. Este paso del proceso de planificación, en el que se intercambian ideas y se analizan los riesgos, debe documentarse con la misma claridad que la propuesta de valor o el rendimiento esperado de la inversión. El mandato de documentar este trabajo puede ayudar a garantizar que pase a formar parte del esfuerzo. Deloitte ha desarrollado más de 300 preguntas que exploran las dimensiones ética y de confianza que pueden informar el proceso de planificación estratégica y sus resultados. La tendencia es pensar en la ética de la tecnología en el contexto de las cuestiones que ya han surgido, como el sesgo discriminatorio en el marketing en las redes sociales o los sistemas de adquisición de talento. Pero esta es una forma de pensar errónea, porque puede hacer que no lleguemos a ver otros riesgos éticos, potencialmente mucho mayores, y no tiene en cuenta los matices que afectan a las organizaciones, los sectores, los clientes y los productos. Tras evaluar los posibles impactos negativos de una nueva tecnología en concreto y crear un equipo con la experiencia pertinente, es importante profundizar. El equipo tiene que investigar y, a partir de ahí, debería ser posible empezar a establecer las barandillas que puedan minimizar los riesgos y mitigar los posibles daños. Los líderes deberían exigir el desarrollo de estrategias éticas de mitigación del riesgo como parte de la planificación de cualquier nuevo proyecto tecnológico. ## Asignar responsabilidad También puede ser esclarecedor preguntarse, desde el principio, quién sería responsable si una organización tuviera que responder por las consecuencias negativas o no deseadas de su nueva tecnología. Se debe tener en cuenta la responsabilidad al documentar el enfoque de los posibles impactos durante el proceso de planificación estratégica. Cuando se pide a una empresa que rinda cuentas por la tecnología que ha desarrollado o desplegado, alguien podría acabar testificando ante el Congreso, compareciendo ante el tribunal o respondiendo a las preguntas de los medios de comunicación. ¿Será esa persona el CEO o el CIO, un científico de datos, un fundador o alguien más? Un debate sobre este tema podría fomentar una reflexión más rigurosa sobre lo que podría salir mal. Por supuesto, lo importante es prestar más atención a estos resultados negativos, y podría aumentar las probabilidades de que nadie tenga que comparecer nunca ante los responsables políticos o un juez para abordar la creación de una pieza de tecnología en primer lugar. ## Nombrar un director de ética tecnológica Los mejores métodos para abordar la ética de las nuevas tecnologías no van a ser una talla única para todos. Puede que sea necesario examinar una amplia gama de posibles impactos y es posible que haya que mitigar un conjunto variado de posibles riesgos. Sin embargo, la mayoría de las organizaciones probablemente se beneficiarían de poner a una sola persona a cargo de estos procesos. Por eso las organizaciones deberían considerar la posibilidad de contratar a un director de ética (o un director de ética tecnológica) que tuviera la responsabilidad y la autoridad de reunir los recursos necesarios. Algunos sectores se han enfrentado a desafíos de confianza y ética durante décadas. Los hospitales y centros de investigación llevan mucho tiempo contratando a oficiales de ética para supervisar las cuestiones de los proyectos de investigación y la práctica médica clínica, por ejemplo. No cabe duda de que la tecnología puede generar nuevas preocupaciones, incluso en este caso: piense en una escuela de medicina que implementa una herramienta de realidad virtual para ayudar a aumentar la competencia de los cirujanos y en la importancia de examinar si la herramienta funciona igual de bien en todas las razas o los géneros. Pero el punto más amplio es que las cuestiones de confianza y ética se pueden gestionar de forma eficaz, siempre y cuando se asuman los compromisos de liderazgo adecuados. Con la creación de un director de ética tecnológica, sigue siendo importante contar con la participación de especialistas de diferentes disciplinas, como se ha mencionado anteriormente. Estas personas pueden provenir de los campos de la antropología, la sociología, la filosofía y otros ámbitos. Según los problemas que presente una tecnología o aplicación específica, puede que sea necesario buscar personas que aporten conocimientos de derecho, política, regulación, educación o medios de comunicación. ## Retos y oportunidades Se espera que nuestra capacidad de gestionar éticamente nuestras herramientas tecnológicas y aumentar la confianza en ellas solo gane importancia en los próximos años, a medida que la tecnología evolucione, se acelere y se adentre más en nuestras vidas. Es probable que esto suponga un desafío para todas las empresas y negocios, y puede que dé lecciones importantes para las organizaciones que no puedan mantener el ritmo. Pero las oportunidades también están en todas partes. Si puede imaginarse un mundo en el que la seguridad de los vehículos y el tráfico progresara tan rápido o más rápido que el desarrollo del automóvil, entonces probablemente pueda imaginarse las ventajas que podrían obtener quienes aborden bien estos desafíos.