Évaluer la fiabilité de l'intelligence artificielle

L'accompagnement d’EY

EY Trusted AI Platform fournit aux organisations des informations sur les sources et les facteurs de risque. Par ailleurs, elle aide une équipe de design spécialisée en IA à quantifier les risques générés par l’IA.

En élaborant un score quantitatif du risque résiduel d’un système d’IA, EY Trusted AI Platform offre la possibilité de :

• Cartographier le risque résiduel issu des systèmes d’IA d’une organisation, par rapport à son niveau de tolérance du risque ;
• Détailler les facteurs de risque, afin d’élaborer des stratégies ciblées d’atténuation des risques ;
• Pratiquer une gestion des risques dynamique, afin de prévoir l’impact des risques causés par les modifications apportées à la conception des systèmes d’IA.

Le fonctionnement de la plateforme

EY Trusted AI Platform utilise des outils d’évaluation interactifs en ligne, pour établir le profil de risque d’un système d’IA. À l’aide d’un modèle d’analytique avancée, la plateforme convertit les réponses de l’utilisateur en un score composite tenant compte du risque technique, de l’impact des parties prenantes et de l’efficacité du contrôle d’un système d’IA.

Pour déterminer le risque technique, la plateforme évalue la conception technique d’un système d’IA, en mesurant les facteurs de risque, qui comprennent les technologies sous-jacentes, l’environnement d’exploitation technique et le niveau d’autonomie.

Pour définir le risque lié aux parties prenantes, la plateforme considère les objectifs du système d’IA. Elle tient également compte de l’impact financier, émotionnel et physique des parties prenantes sur les utilisateurs externes et internes, ainsi que les risques juridiques, réglementaires et de réputation.

Le score d’efficacité du contrôle prend en compte l’existence et l’efficacité du fonctionnement des contrôles, et constitue un facteur d’atténuation visant à réduire les risques liés à l’IA.

En combinant ces trois scores, EY Trusted AI Platform calcule le risque résiduel d’un système d’IA. Basé sur son impact anticipé sur les utilisateurs, le risque lié aux parties prenantes a une fonction de multiplicateur du risque technique qui tient compte des implications éthiques et sociales. L’évaluation de la gouvernance et de la maturité des contrôles constitue un facteur d’atténuation visant à réduire le risque résiduel d’un système d’IA.

La présentation simple offre un aperçu rapide des scores du risque relatif lié aux systèmes d’IA d’une organisation, tandis que des fonctions d’exploration permettent d’afficher des détails supplémentaires.

L’avantage pour les organisations

La quantification des risques liés à l’IA constitue une étape majeure dans la mise en place d’un solide système de gestion des risques et l’établissement d’un système d’IA fiable. EY Trusted AI Platform voit le jour pour aider les organisations à :

• Exploiter la prévision des risques, pour accélérer leur accès aux éclairages révélés par l’IA ;
• Faire confiance à l’IA ;
• Obtenir une valeur durable de l’IA.