講演1 AI利活用の促進とリスクへの対処―AIガバナンスの必要性と取り組み
生成AIの活用が急速に広がる中、世界各国ではその運用や規制への対応に追われています。AIを正しく利用し、そのメリットを享受するためにはどのようなことに注意すればよいのでしょうか。
米国・欧州等におけるAIガバナンスの状況、そしてAI利活用にあたり企業が把握すべき観点や取り組みについて、EYストラテジー・アンド・コンサルティング株式会社シニアマネージャーの菅 達雄が解説しました。
EYがAPACで行った調査（EY CEO Outlook Pulse）では、7割近くのCEOが「競合に対して戦略的に劣後することを防ぐため生成AIへの取り組みが必要であるが、同時に生成AIの不確実性が課題とも認識している」と答えています。
「この結果から読み取れるのは、生成AIに非常に期待をしつつも捉えどころのない不確実性があると考えている方が多いということです。こういった観点からもAIガバナンスが非常に重要であることがわかります」と菅は述べます。
AIガバナンスの在り方を考える上で知っておかなければならないのがAI利活用のリスクです。
出力結果が必ずしも正確・最新であるとは言えない「信頼性と正確性」、個人情報や機密情報が意図せず外部に漏えいし不正利用される「プライバシーとセキュリティー」、出力結果が社会的な公平性に欠け、バイアスを有する「公平性とバイアス」、そして、著作権などの権利を意図せず侵害することによる「コンプライアンス」違反など、AI利活用のリスクは大きく分けると4つあります。
ディープフェイクを使った著名人の動画流布やAIを利用したサイバー攻撃実験での不正送金、そしてAIを利用した保険適用判断に関する訴訟などは、これらのリスクがすでに顕在化している事例であると言えます。
「AI利活用のリスクはさまざまに変化しており、今まさに、インシデントのデータベース化が進んでいます。今後、企業がAIガバナンスを実装する際、同業他社のインシデントの事例を知るには、このようなデータベースが参考になるはずです」（菅）
そして話は本題であるAIガバナンスへと移ります。
「AIガバナンスとして、世界的に確立されたひとつの考え方があるわけではありません。そこで、Global Partnership on AI（GPAI）（2024年4月1日アクセス）での取り組みを例にご説明します」と菅。
2020年に設立されたGPAIは、責任あるAIの開発・利用を実現するために設立された官民連携の国際組織です。
「責任あるAI（サブグループ「AIとパンデミック対応」含む）」「データガバナンス」「仕事の未来」「イノベーションと商業化」の4つの作業部会があり、世界中の研究者・実務家によりさまざまな議論が行われています。
「注目すべきは、「責任あるAI」と同じレベル感で、「データガバナンス」が議論されている点です。データガバナンスがAIガバナンスの一部であるという考え方はもちろんのこと、非常に重要な論点であると示唆されているのは間違いないでしょう」（菅）
さらに、AIガバナンスの全体像を把握するにはフレームワークのようなものが必要であると菅は述べます。
「まず、すべてのステークホルダーが順守すべき基本的な原則が必要です。その上で2つの観点を取り入れていく。まずは、AI開発・運用・利用に関わる関係者が適切に利益を享受し、不利益を被らないよう担保しなければならない。これにはAIを利用する労働者や膨大なデータを計算処理するための環境も含まれます。さらに計算資源、データ、人材という3つの資源からの観点を取り入れていきます。
AIをどう利活用するのかユースケースを決め、システムの仕様を検討し、それを継続的に運用するための統制・管理の仕組みを考える。この全体像がAIガバナンスであると私たちは整理しています」
AIの活用が加速度的に進む中、世界では規制・標準化に向けた動きが活発化しています。
「先ほど例に出したOECDのAIに関する政策ガイドラインは2019年に採択され、各国の規制整備の基準となりました。しかし生成AI利活用の高まりを受け、見直しの検討に入っています。EUにおけるAI法では、AIシステムをリスクに応じて4分割し、利用する事業者などに義務を課すことを検討しています。また、米国の標準化団体NISTが作成したフレームワークやプレイブックは、企業などがAIに関するリスクマネジメントの仕組みづくりをする際の参考とされており、ガバナンスについても同様にヒントとなるでしょう」（菅）
企業における取り組みとしてご紹介したいのが、ISOのフレームワークです。
ISOではAIマネジメントシステムの規格化（ISO/IEC42001)を進めており、近く公表される見込み1です。
「AIガバナンスが非常に広範にわたる中、データという観点ではISOのコントロールをモデルとして各企業でガバナンスを具体化していくことができると考えています。
実装方法としては他のマネジメントシステムと基本的な考え方は同じですが、AIでポイントとなるのが現状評価です。AIがすでに各社・各組織の中で使われており、懸念されるリスクが顕在化している可能性を考え、自社や委託先でAIがどう使われているか、まずは現状の評価と洗い出しから始める必要があるでしょう」（菅）
EYでもAIガバナンスのフレームワークをつくり、AI原則、開発ライフサイクル、リスク管理を検討し、AIの信頼性を高めるための要件を定義しています。
菅は「各社が状況に応じたフレームワークを今後考えていく中、こうしたところに取り組むことでより効果の高いAIを実現できるのではないかと考えています」と語り、講演を締めくくりました。
