「AI事業者ガイドライン（第1.0版）」解説　第3回：第3部及び第4部

「第3部AI開発者に関する事項」の説明

「AI事業者ガイドライン」の「第3部AI開発者に関する事項」に基づき、AI開発者が留意すべき点を説明します。

なお、本記事では具体例を示すための前提として、エントリーシートの文章で、応募者に対し合否を判断する“採用AI”を想定します。

1. AI開発者とは

AI開発者とは、AIシステムを開発する事業者です。

大規模言語モデルを開発するビッグテック企業をはじめ、自社でAIモデルを開発する事業者を指します。

採用AIの例では、本社開発部門が該当します。

2. AI開発者にとって重要な事項の概要

「AI事業者ガイドライン」では、AI開発者にとって重要な事項を「データ前処理、学習時」「AI開発時」「AI開発後」の各工程にて計12点示しています。

AI開発者は、AIモデルを直接的に設計し変更を加えることができるため、AIシステム・サービス全体においてもAIの出力に与える影響が大きいです。また、イノベーションを牽引することが社会から期待され、社会全体に与える影響も非常に大きいです。よって、「事前に可能な限り検討し、対応策を講じておくこと」「経営リスク及び社会的な影響力を踏まえ、適宜判断・修正していくこと」「合理的な説明を行うことができるよう記録を残すこと」が重要になります。

ここでは、AI開発者にとって重要な事項のうち、各工程について特徴的な点を紹介します。

3. 適切なデータの学習

「AI事業者ガイドライン」では、データ前処理／学習時において重要な事項として【適切なデータの学習】を挙げており、以下の点が重要としています。

• AIの学習等に用いるデータの質に留意すること
• AIによりなされる判断の精度に関する基準をあらかじめ定めること
• 基準を下回った場合には、データの質に留意して改めて学習させること

そして、「AI事業者ガイドライン」では、AI開発者に向け次のような具体的な実施事項を示しています。

出典:
総務省、経済産業省「AI事業者ガイドライン（第1.0版）」www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_1.pdf（2024年7月26日アクセス）

総務省、経済産業省「AI事業者ガイドライン（第1.0版）」具体的なアプローチ検討のためのワークシート（別添7C）
view.officeapps.live.com/op/view.aspx?src=https%3A%2F%2Fwww.meti.go.jp%2Fshingikai%2Fmono_info_service%2Fai_shakai_jisso%2Fpdf%2F20240419_6.xlsx&wdOrigin=BROWSELINK（2024年7月26日アクセス）に基づきEY作成

• 個人情報等の適切な取り扱い
  
  学習時のデータに個人情報や他者が知的財産権を有するもの等が含まれている場合には、法令等に違反しないようAI のライフサイクル全体を通じて適切に扱うことが求められます。例えば、学習データをあらかじめクレンジングし、個人情報を含まない状態にすることなどが想定されます。
   

• データ保護
  
  AIモデルは学習データによって出力が大きく影響をうけます。故意・過失により学習データに不適切なデータが混入しAIモデルへ悪影響を及ぼすことがないよう、学習前・学習全体を通じて学習データの適切な管理が求められます。例えば、学習データの変化（データドリフト）を定期的に検証することが想定されます。

4. 人間の生命・身体・財産、精神及び環境に配慮した開発

「AI事業者ガイドライン」では、AI開発時において重要な事項として【人間の生命・身体・財産、精神及び環境に配慮した開発】を挙げており、「AIシステムが人の生命・身体・財産、精神及び環境に危害を及ぼすことのないよう留意する」ことが重要としています。

そして、「AI事業者ガイドライン」では、AI開発者に向け次のような具体的な実施事項を示しています。

出典:
総務省、経済産業省「AI事業者ガイドライン（第1.0版）」www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_1.pdf（2024年7月26日アクセス）

総務省、経済産業省「AI事業者ガイドライン（第1.0版）」具体的なアプローチ検討のためのワークシート（別添7C）
view.officeapps.live.com/op/view.aspx?src=https%3A%2F%2Fwww.meti.go.jp%2Fshingikai%2Fmono_info_service%2Fai_shakai_jisso%2Fpdf%2F20240419_6.xlsx&wdOrigin=BROWSELINK（2024年7月26日アクセス）に基づきEY作成

• リスクを最小限にする方法の検討
  
  AIはロボットへの搭載など広範な利用が想定されることから、人間の生命・身体・財産、精神及び環境に悪影響を及ぼすリスクを最小限とすることが求められます。例えば、AIを搭載したロボットが制御不能になることがないよう、問題発生時には機能を一時停止できる設計とすることなどが想定されます。

5. イノベーションの機会創造への貢献

「AI事業者ガイドライン」では、AI開発後に重要な事項として【イノベーションの機会創造への貢献】を挙げており、「AI開発者は、AIモデルを直接的に設計し変更を加えることができるため、AIシステム・サービス全体においてもAIの出力に与える影響力が高く、イノベーションを牽引することが特に社会から期待される」としています。

そして、「AI事業者ガイドライン」では、AI開発者に向け次のような具体的な実施事項を示しています。

• 研究開発の推進：AIの品質・信頼性、開発の方法論等の研究開発を行う。
• 社会問題への貢献：持続的な経済成長の維持及び社会課題の解決策が提示されるよう貢献する。
• 国際協力の促進：国際議論の動向の参照、AI開発者コミュニティ又は学会への参加の取組等、国際化・多様化及び産学官連携を推進する。
• 情報提供の推進：社会全体へのAIに関する情報提供を行う。

「第4部AI提供者に関する事項」の説明

「AI事業者ガイドライン」の「第4部AI提供者に関する事項」に基づき、AI提供者が留意すべき点を説明します。

1. AI提供者とは

AI提供者とは、AI開発者が開発したAIシステム（モデル）を自身のサービス等に組み込みAI利用者へ提供する事業者です。

ビッグテック企業が開発したAIシステム（モデル）を組み込んで自社サービスを提供するSaaS企業がイメージしやすい例です。

採用AIの例では、本社人材採用部門が該当します。

AI提供者は、サービスの提供主体としてAI利用者への義務を負うと共に、AI開発者が提供するサービスの利用者としての情報収集やコミュニケーション等も求められる点が特徴的です。さらに、IaaSやPaaSなどクラウドサービスの利用と異なり、AI開発者が開発したAIシステムの処理結果が、AI提供者自身のサービスのアウトプットに直接影響することが想定されます。

2. AI提供者にとって重要な事項の概要

「AI事業者ガイドライン」では、AI提供者にとって重要な事項を「AIシステム実装時」「AIシステム・サービス提供後」の各工程について計12点示しています。

AI提供者は、AIシステム・サービスに組み込むAIが当該システム・サービスにふさわしいものか留意すること、ビジネス戦略又は社会環境の変化によってAIに対する期待値が変わることも考慮して、適切な変更管理、構成管理及びサービスの維持を行うことが重要です。

ここでは、AI提供者にとって重要な事項のうち、各工程について特徴的な点を紹介します。

3. 適正利用に資する提供

「AI事業者ガイドライン」では、AIシステム実装時において重要な事項として【適正利用に資する提供】を挙げており、「インシデント、セキュリティ侵害・プライバシー侵害等によりもたらされる又はもたらされた被害の性質・態様等に応じて、関連するステークホルダーと協力して予防措置及び事後対応に取り組むことが期待される」としています。

そして、「AI事業者ガイドライン」では、AI提供者に向け次のような具体的な実施事項を示しています。

出典:
総務省、経済産業省「AI事業者ガイドライン（第1.0版）」www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_1.pdf（2024年7月26日アクセス）

総務省、経済産業省「AI事業者ガイドライン（第1.0版）」具体的なアプローチ検討のためのワークシート（別添7C）
view.officeapps.live.com/op/view.aspx?src=https%3A%2F%2Fwww.meti.go.jp%2Fshingikai%2Fmono_info_service%2Fai_shakai_jisso%2Fpdf%2F20240419_6.xlsx&wdOrigin=BROWSELINK（2024年7月26日アクセス）に基づきEY作成

• 利用上の留意点の定義
  
  AI利用者が誤った利用を行わないよう、マニュアルなどにAIシステム・サービスの利用上の留意点を正しく定めることが求められます。
   

• AI開発者の設定範囲遵守
  
  AI開発者が設定した範囲を逸脱してAIシステム・サービスが利用されることによって、予期せぬ事態が発生することがないよう、AI開発者が設定した範囲でAIを活用することが求められます。
   

• 学習データの担保
  
  AIモデルや学習データが古いことにより適切なパフォーマンスが得られないことがないよう、AIモデルや学習データの最新性の担保が求められます。例えば、AIシステムに実装されているモデルのバージョンが最新であること、学習データが正確であることを定期的に確認することが想定されます。
   

• AI開発者設定の利用環境遵守
  
  AI開発者が想定した利用環境が遵守されないことで予期せぬ事態が発生することがないよう、AI開発者が設定した利用環境を遵守することが求められます。例えば、AI利用者へ向けた利用環境整備手順を整えることが想定されます。
   

• 適正利用の定期検証
  
  不適切な目的でAIシステム・サービスが利用されることがないよう、ログの確認などによりAIシステム・サービスの利用状況を定期的に確認することが求められます。

4. バイアスへの配慮

「AI事業者ガイドライン」では、AIシステム・サービス提供後において重要な事項として【AIシステム・サービスの構成やデータに含まれるバイアスへの配慮】を挙げており、「AIシステム・サービスの判断によって個人及び集団が不当に差別されないよう配慮することが期待される」としています。

そして、「AI事業者ガイドライン」では、AI提供者に向け次のような具体的な実施事項を示しています。

出典:
総務省、経済産業省「AI事業者ガイドライン（第1.0版）」www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_1.pdf（2024年7月26日アクセス）

総務省、経済産業省「AI事業者ガイドライン（第1.0版）」具体的なアプローチ検討のためのワークシート（別添7C）
view.officeapps.live.com/op/view.aspx?src=https%3A%2F%2Fwww.meti.go.jp%2Fshingikai%2Fmono_info_service%2Fai_shakai_jisso%2Fpdf%2F20240419_6.xlsx&wdOrigin=BROWSELINK（2024年7月26日アクセス）に基づきEY作成

• 提供時点でのバイアス検討
  
  インプットとなるデータや連携する外部サービスにバイアスや改ざんがあることにより、AIモデルの適切なパフォーマンスが得られないことがないよう、AIシステム・サービス提供時点で適切な検討をすることが求められます。例えば、改ざん防止のため、インプットとなるデータを読み取り専用にすることが想定されます。
  
  
• 定期的なバイアス評価
  
  AIモデルのバイアス発生が見逃され改善されないことがないよう、入出力及び判断根拠を定期的に評価し、バイアスの発生をモニタリングすることが求められます。また、必要に応じて、AI開発者にAIモデル改善の判断を促すことも求められます。例えば、バイアスの傾向変化についてAI利用者から情報収集し、必要に応じAI開発者へも共有することが想定されます。
  
  
• 利用者の判断制限に留意
  
  AIは判断を含むさまざまな自動化が可能なことから、AIシステム・サービスが特定の情報を恣意（しい）的に表示しないなど、利用者の判断を恣意的に制限するバイアスが含まれないよう検討することが求められます。例えば、ユーザーインターフェース上に判断根拠情報が必ず表示されるように設計することが想定されます。

まとめ

AI開発者及びAI提供者は、AIシステムを開発・提供する主体として社会への影響が大きい事業者です。「AI事業者ガイドライン」にて示されている事項を理解し、各事業者のシステムに即した形で取り込むことが求められます。

【共同執筆者】

佐藤 賢
（EY Japan Technology Risk　シニアマネージャー）

太田 崚覇
（EY Japan Technology Risk　マネージャー）