Como uma biofarmacêutica global se tornou líder em AI ética

A inteligência artificial (IA) emergiu como um agente-chave de transformação, criando oportunidades para maior percepção e eficiência em todos os setores. biofarmacêutica não é exceção.

Nosso cliente, uma empresa biofarmacêutica global, já havia realizado uma auditoria interna de IA para avaliar a maturidade de seus processos nesse campo emergente, o que ajudou a identificar uma série de lacunas. O mais problemático era a ausência de uma estrutura de governança de IA.

A empresa entendeu que preencher essa lacuna seria uma etapa vital para atingir um estado maduro mais cedo ou mais tarde, permitindo aproveitar simultaneamente as oportunidades da IA e mitigar com sucesso os riscos que abrangem domínios técnicos, sociais e éticos - incluindo viés de tomada de decisão e violações de privacidade.

Posteriormente, nosso cliente desenvolveu uma estrutura abrangente de governança de IA, adotando princípios responsáveis de IA, como transparência, justiça e centralização no ser humano.

“Temos uma responsabilidade coletiva de gerenciar o risco de IA. Nossos princípios éticos de IA são uma parte importante de nossa estratégia de gerenciamento de riscos de IA e ajudam a maximizar os benefícios da IA”, explica o CIO da empresa biofarmacêutica.

No entanto, a liderança exigiu garantia de que estava indo na direção certa e foi em busca de um parceiro independente.

Nossa análise descobriu que a biofarmacêutica nem sempre gerenciava os riscos de IA específicos do projeto, em conformidade com seus princípios responsáveis de IA. “A auditoria da EY destacou uma série de lacunas em nossa abordagem, o que nos permitiu definir requisitos mínimos para equipes de negócios que atuam com IA, com as quais já estamos trabalhando”, diz o líder de governança de IA da empresa biofarmacêutica.

Quando a biofarmacêutica iniciou sua jornada há alguns anos, a governança da IA era um território amplamente desconhecido no setor, oferecendo poucos exemplos a seguir.

Além do mais, na época, a União Europeia (UE) estava prestes a revelar seu tão esperado rascunho de regulamentos de IA. Uma vez promulgada, a resultante Lei de Inteligência Artificial (IA) da UE - a primeira regulamentação abrangente de IA do mundo - colocará a responsabilidade pela governança da tecnologia no nível do conselho.

Várias outras nações líderes e organizações internacionais também desenvolveram suas próprias abordagens regulatórias em torno da IA, com as quais a biofarmacêutica pode ter que cumprir.  

Em última análise, o cliente precisava saber como preparar sua IA de hoje para a regulamentação de amanhã. 

Parte de um conjunto mais amplo de ferramentas, técnicas e capacitadores da EY projetados para auxiliar no desenvolvimento e uso responsável da IA, a estrutura global de IA responsável é um conjunto flexível de princípios orientadores e ações práticas.

As equipes multidisciplinares da EY, compostas por especialistas em ética digital, profissionais de risco de TI, cientistas de dados e recursos específicos, aproveitaram a estrutura global de IA responsável para avaliar os princípios de IA da biofarmacêutica, bem como eles foram implementados e compreendidos em toda a empresa.

Sobrepusemos a estrutura global de IA responsável no modelo que o cliente já havia criado, entrevistando os principais stakeholders e revisando documentação relevante.

“Investimos tempo para entender o ambiente do cliente, e nossa experiência em governança de IA significa que também fomos capazes de fazer as perguntas certas no momento certo”, diz Catriona Campbell, Diretora de Tecnologia e Inovação de Clientes da EY UKI. 

Avaliamos com que sucesso o negócio mitigou os riscos da IA ao longo de seu ciclo de vida, desde a identificação do problema até a modelagem, implantação e monitoramento contínuo.

Para determinar se o cliente desenvolveu e implementou IA de acordo com seus princípios responsáveis de IA, também avaliamos uma amostra dos principais projetos de IA, incluindo previsão, rastreamento de eventos adversos e detecção precoce de doenças.

Nossa análise descobriu que a biofarmacêutica nem sempre gerenciava os riscos específicos de IA do projeto de acordo com seus princípios responsáveis de IA. “A auditoria da EY destacou uma série de lacunas em nossa abordagem, permitindo-nos definir requisitos mínimos para equipes de negócios que trabalham com IA, para as quais já estamos trabalhando”, diz o líder de governança de IA da empresa biofarmacêutica.

O cliente foi um dos primeiros a adotar o gerenciamento de risco de IA em seu setor, mas confiamos em sua abordagem e destacamos oportunidades de melhoria.

“A parceria com a EY forneceu validação externa em nossa abordagem e nos deu informações valiosas sobre as áreas em que precisamos de foco adicional”, explica o diretor de informações da empresa biofarmacêutica.

Nossa análise detalhada ajudou a biofarmacêutica a avaliar a necessidade de grandes mudanças em sua abordagem à governança de IA. Isso incluiu uma avaliação de risco de IA aprimorada de terceiros e um novo inventário de IA central - o último dos quais é fundamental para o gerenciamento de risco de IA e a habilitação da conformidade regulatória.

A empresa percebeu que não existe um método único de governança de IA, o que torna o desafio ainda maior para algumas empresas. Por exemplo, empresas mais federadas com autonomia distribuída devem encontrar uma maneira de obter consistência em várias unidades sem uma única autoridade para policiar a governança de IA, enquanto aquelas com controle mais centralizado terão que pensar de maneira diferente.

Também ficou claro que, se uma revisão independente considerar que a governança de IA de uma organização não é adequada para o propósito, a liderança deve estar disposta a fazer as mudanças estruturais necessárias ou estabelecer um conselho de governança para criar um melhor alinhamento.

É essencial que essa revisão seja tão personalizável quanto variadas são a estrutura organizacional, a liderança e as responsabilidades de uma empresa. “As equipes da EY poderiam atuar em conjunto conosco abordando como uma auditoria deveria ser, combinando o que estávamos fazendo com sua estrutura global de IA responsável e fazendo sua mágica para juntar os pontos”, diz o encarregado da área de Pesquisa e Desenvolvimento de IA de empresa biofarmacêutica.

A ética da IA ainda é jovem, então faz sentido que muitas empresas não tenham os recursos internos necessários para iniciar ou continuar sua jornada.

O apoio prestado por um sócio independente com a capacidade de adaptar o processo de auditoria agrega valor, ao contribuir para uma organização no desenvolvimento de processos de governança de IA apropriados para seus negócios, aumentando a probabilidade de conformidade regulatória.

Isso ajudará a posicionar a liderança para proteger os stakeholders, incluindo o público, dos riscos da IA – mantendo os humanos no centro da transformação.