¿Cómo puedes hacer que la IA de hoy esté lista para las regulaciones del mañana?
La inteligencia artificial (IA) ha surgido como un agente clave de transformación, creando oportunidades para una mejor comprensión y eficiencia en todas las industrias. La biofarmacéutica no es la excepción.
Nuestro cliente, una compañía biofarmacéutica global, había realizado previamente una auditoría interna de IA para evaluar la madurez de sus procesos en este campo emergente, lo que ayudó a identificar una serie de brechas. Lo más apremiante fue la ausencia de un marco de gobernanza de IA.
La firma entendió que cerrar esta brecha sería un paso vital para alcanzar un estado maduro más temprano que tarde, lo que le permitiría aprovechar simultáneamente las oportunidades de la IA y mitigar con éxito los riesgos que abarcan dominios técnicos, sociales y éticos, incluidos el sesgo de toma de decisiones y las violaciones a la privacidad.
Posteriormente, nuestro cliente desarrolló un marco integral de gobernanza de IA que abarca principios de IA responsables como transparencia, equidad y centricidad en el ser humano.
“Tenemos una responsabilidad colectiva para gestionar el riesgo de IA. Nuestros principios éticos de IA son una parte importante de nuestra estrategia de gestión de riesgos de IA y ayudan a maximizar los beneficios de la IA”, explica el Chief Information Officer de la compañía biofarmacéutica.
No obstante, el liderazgo requirió asegurar que se estaba moviendo en la dirección correcta y se fue en busca de un socio independiente.
Los equipos de EY trabajaron con el cliente en una revisión de su gobierno de IA, con el objetivo de apoyar al negocio en el mantenimiento de sus valores organizacionales sin impedir la innovación. “Debido a que estamos impulsados en gran medida por el valor, queríamos asegurarnos de que tanto las personas como las máquinas vivan esos valores”, dice el AI Governance Lead de la compañía biofarmacéutica.
Debido a que en gran medida estamos impulsados por el valor, queríamos asegurarnos de que tanto las personas como las máquinas vivan esos valores.
Cuando la biofarmacéutica inició su viaje hace unos años, la gobernanza de la IA era en gran parte un territorio inexplorado en el sector, ofreciendo pocos ejemplos a seguir.
Además, en ese momento, la Unión Europea (UE) estaba a punto de dar a conocer su esperado proyecto de reglamentación sobre la IA.. Una vez promulgada, la Ley de Inteligencia Artificial (IA) de la UE — la primera normativa exhaustiva sobre IA del mundo — atribuirá la responsabilidad de la gobernanza de la tecnología a las juntas directivas.
Otros países importantes y organizaciones internacionales también han desarrollado sus propios enfoques normativos en torno a la IA, que la biofarmacéutica podría tener que cumplir.
En última instancia, el cliente necesitaba saber cómo hacer que su IA de hoy esté lista para la regulación del mañana.
Una revisión independiente detallada de la gobernanza de la IA
Como parte de un conjunto más amplio de herramientas, técnicas y facilitadores de EY diseñados para ayudar al desarrollo y uso responsables de la IA, el marco global de IA responsable es un conjunto flexible de principios rectores y acciones prácticas.
Los equipos multidisciplinarios de EY, formados por especialistas en ética digital, riesgos informáticos, científicos de datos y expertos en la materia, utilizaron el marco global de IA responsable para evaluar los principios de IA responsable de la biofarmacéutica, así como el modo en que se habían desplegado y comprendido en todo el negocio.
Superpusimos el marco global de IA responsable en la plantilla que el cliente ya había creado, entrevistando a los stakeholders clave y revisando la documentación relevante.
“Invertimos tiempo en comprender el entorno del cliente, y nuestra experiencia en el gobierno de IA significó que también pudimos hacer las preguntas correctas en el momento adecuado”, dice Catriona Campbell, EY UKI Client Technology & Innovation Officer.
Evaluamos el éxito con que el negocio había mitigado los riesgos de la IA a lo largo de su ciclo de vida, desde la identificación de problemas hasta el modelado, la implementación y el monitoreo continuo.
Para determinar si el cliente había desarrollado e implementado IA de acuerdo con sus principios de IA responsable, también evaluamos una muestra de proyectos clave de IA, incluyendo pronóstico, seguimiento de eventos adversos y detección temprana de enfermedades.
Nuestra revisión encontró que la biofarmacéutica no siempre estaba manejando riesgos de IA específicos del proyecto de acuerdo con sus principios de IA responsable. “La auditoría de EY destacó una serie de brechas en nuestro enfoque, lo que nos permitió establecer requisitos mínimos para los equipos de negocios que trabajan con IA, en los que ya estamos trabajando”, dice el AI Governance Lead de la compañía biofarmacéutica.
La auditoría de EY destacó una serie de brechas en nuestro enfoque, lo que nos permitió establecer requisitos mínimos para los equipos de negocios que trabajan con IA, en los que ya estamos trabajando.
Impulsar una IA responsable para reducir el riesgo para los stakeholders
El cliente fue uno de los primeros en adoptar la gestión de riesgos de IA en su industria, pero brindamos confianza en su enfoque y destacamos oportunidades de mejora.
“La asociación con EY proporcionó validación externa en nuestro enfoque y nos brindó una valiosa información sobre las áreas en las que necesitamos un enfoque adicional”, explica el Chief Information Officer de la compañía biofarmacéutica.
Nuestra revisión detallada ayudó a la biofarmacéutica a apreciar la necesidad de cambios importantes en su enfoque de la gobernanza de la IA. Estos incluyeron una mejor evaluación de riesgos de IA de terceros y un nuevo inventario central de IA — el último de los cuales es fundamental para la gestión de riesgos de IA y la habilitación del cumplimiento normativo.
La firma se dio cuenta de que no existe un método único para todos de gobierno de IA, lo que hace que el desafío sea aún mayor para algunas empresas. Por ejemplo, las empresas más federadas con autonomía distribuida deben encontrar la manera de lograr consistencia a través de múltiples unidades sin una sola autoridad para controlar la gobernanza de la IA, mientras que aquellas con un control más centralizado tendrán que pensar de manera diferente.
También quedó claro que, si una revisión independiente encuentra que la gobernanza de la IA de una organización no es apta para su propósito, el liderazgo debe estar dispuesto a realizar los cambios estructurales necesarios o a establecer una junta de gobierno para crear una mejor alineación.
Es esencial que dicha revisión sea tan personalizable como la estructura organizativa de una empresa, el liderazgo y las cuentas son variadas. “Los equipos de EY podrían trabajar con nosotros en cómo debería verse una auditoría, engranando lo que estábamos haciendo con su marco global de IA responsable y trabajando su magia para unir los puntos”, dice el Head of AI Research & Development de la compañía biofarmacéutica.
Los equipos de EY podrían trabajar con nosotros sobre cómo debería verse una auditoría, engranando lo que estábamos haciendo con su marco global de IA responsable y trabajando su magia para unir los puntos.
La ética de la IA es aún muy joven, por lo que es lógico que muchas empresas carezcan de las capacidades internas necesarias para iniciar o continuar su viaje.
El apoyo de un socio independiente con la capacidad de adaptar el proceso de auditoría agrega valor al ayudar a una organización a desarrollar procesos de gobernanza de IA apropiados para su negocio — lo que aumenta la probabilidad de cumplimiento regulatorio.
Esto ayudará a posicionar el liderazgo para proteger a los stakeholders, incluido el público, de los riesgos de la IA, manteniendo a los humanos en el centro de la transformación.
