AIエージェント、AGI、ASI――進化を続けるAI技術のビジネス展開とリスクガバナンスの構築のために（後編）

1月に配信され、好評を博したEY Japan主催ウェビナー「生成AI活用の未来：イノベーションの促進とガバナンスの融合」。Sakana AI株式会社のコーポレート本部長田丸雄太氏、Gen-AX株式会社の代表取締役CEO砂金信一郎氏、 d-strategy, incの代表取締役CEO・小宮昌人氏と、生成AIに関する深い知見を持つゲストが講演を行いました。

ウェビナーの後半では、生成AIとリスクコンプライアンスについての講演として株式会社Citadel AIのCo-Founder, CEO小林裕宜氏のご登壇、EYメンバーの登壇、また、EYおよびゲスト登壇者3名と前出のEY岡部（モデレーター担当）にEYストラテジー・アンド・コンサルティング パートナーの川勝健司を加えた5名によるパネルディスカッションが行われました。業界の最前線を走る識者たちが語ったAI技術の「攻め」と「守り」の最前線とは―。記事の後編でその白熱した議論の一部を紹介します。

第2部：生成AIとリスクコンプライアンス

生成AIの発展はビジネスに多くの可能性をもたらすと同時に、情報生成の正確性や倫理の問題といった新たな課題も生んでいます。ウェビナーの第2部では、生成AIのリスクコンプライアンスをテーマに講演が行われました。

最初の登壇者である株式会社Citadel AIのCo-Founder, CEO小林裕宜氏は、企業が抱えるAI運用の課題について、同社が提供するAIシステムの検証やモニタリングツールの例を挙げながら次のように語りました。

小林氏「i-PROさんというセキュリティカメラを提供されている会社の例だと、例えばAIを搭載した監視カメラが暗がりで人でないものを人と認識してしまった場合、その現場に人が見に行くという不要な出動機会が生じ、コストや手間がかかってしまいます。あるいは、仮に人種や性といったところで認識率が変わってしまうと、欧州AI法に引っかかってしまう。こうした部分において、われわれのツールを使って精度を上げるなど、バイアスをなくすような方向で品質改善を進めていただいています。

また、アメリカの有名な病院であるMayo Clinicでは、導入するAI搭載型の医療機器の検証用にわれわれのツールが採用されています。当然、機器を提供する側もさまざまな検査をされると思いますが、受け入れる側もきちんと確認した上でなければ、そうした医療機器を用いた責任ある医療は提供できないということです」
 

AI利用企業に求められるガバナンスとは

EY新日本有限責任監査法人Technology Risk事業部の吉村からは、近年重要性が高まっている、テクノロジーに関する第三者評価についての説明がありました。

吉村「第三者評価の意義は、テクノロジー企業と利用企業、この両者をつなぐことにあります。テクノロジー企業さんがどんなに素晴らしいサービスを提供していても、それを利用企業さんが信じることができなければ、活用されないということになってしまう。そこで、独立性の高い第三者がしっかりと監査を行った上で信頼性を付与することによって、利用企業さんも安心して最新のテクノロジーを活用できるようになりますし、テクノロジー企業さんの側も自分たちのビジネスを展開していくことができると考えています」

さらに吉村は、第三者評価の種類としてSOC保証業務、ISMAP、ISO認証業務を紹介。「EYでは、Big 4の中で唯一、ISOの認証まで踏み込んだサービスを提供しています。また、AIガイドラインを用いたAIガバナンスの第三者評価サービスを行っていますので、AIの領域でもお役に立っていきたいと考えています」

続けて、同じくEY新日本有限責任監査法人・アシュアランスイノベーション本部で会計監査DXの推進責任者を務める加藤信彦が、AIガバナンスに関して補足しました。

加藤「われわれEY新日本もAIガバナンス体制を自己評価していますけれども、その中での留意事項を3つお話ししたいと思います。1点目は、欧州の規制でもリスクのレベルが四段階に分かれているように、AIのリスクを適切なレベルに分け、レベルごとにコントロールしていくことが大きなポイントになります。2点目として、やはりチェックする側とされる側、同じレベルでAIのナレッジを一緒に高めていく必要があります。そして3 点目、吉村からも申し上げたように、第三者から客観的な評価を取得するのは、過度なコンプライアンスを避け、イノベーションを阻害しないという観点でも非常に重要になるのではないかと思います」

第3部：パネルディスカッション

ウェビナーの最後は、第1部と第2部の登壇者にEYストラテジー・アンド・コンサルティング パートナーの川勝健司を加えたパネルディスカッションが行われました。識者たちが語るAI技術の「攻め」と「守り」の最前線。以下では、その白熱した議論の一部を抜粋して紹介します。

モデレーター／岡部：よろしくお願いいたします。本日、「AIエージェント」という言葉が出てきましたけれども、これは分かりやすく言えば、「今夜、日比谷か銀座でおいしいおでんを食べに行きたい。人数は4人で、18時から……」とインプットすると、AIエージェントがお店を探して予約までしてくれる、こういった認識で合っていますでしょうか。

砂金氏：大体合っていると思います。ただ、予約行為であれば大きな問題は生じないかもしれませんが、社内稟議ではどうでしょうか。誰の権限でエージェントが動いたのか、それは本当にやって良かったのか、ダメであればどのように対応すべきか。こういったことが今後、問題になってくると思います。

小宮氏：AIエージェントの範囲も非常に重要なテーマになると思います。すべてを1つのAIエージェントに任せようとしてもパフォーマンスが発揮できなくなってしまいます。例えば設計分野であれば、電気設計、機械設計といった役割分担をした上で、さらにそこのコンフリクトを調整するようなAIエージェントが出てくる。このスコープをどう設定するかが、これからの論点になると思いますね。

岡部：ガバナンスの観点からは、AIエージェントについてどのようにお考えになりますか。

小林氏：より検証が難しくなると思います。先ほどの例で言えば、そのAIエージェントはなぜ、そのお店を予約してきたのか。他のお店が満席だったからなのか、SNSでブームになっていたからなのか。よく分からないわけですね。ですから、AIは便利な反面、その判断がネガティブな方向に転んだときに責任問題にもなり得るので、その判断に至った理由をトレースできる仕組みを構築する必要がある。これは非常に重要なポイントになるでしょう。

川勝：もう少し細かい点を申し上げると、砂金さんもおっしゃっていたように、結局、誰の権限を委譲しているのかという点を分けて考えなければならないと思っています。「おでん屋を探す」という指示を解釈する役割、お店を探すために行動計画を立てる役割、そのタスクを継続的に自己学習していく役割。AIエージェントの品質を担保するためには、それぞれの役割がきちんと動けているのかすべて押さえて、改善する仕組みが裏側で必要になってくると思います。

岡部：ありがとうございます。次の話題として、生成AIの生み出すイノベーションという観点で、小宮さんはどのようにお考えでしょうか。

小宮氏：ひとつは、例えばロボティクス分野で言えば、これまでインテグレーションした動作をそのままやらせるのが主流だったところ、生成AIを組み込んで柔軟にタスクを切り替えるような形で新しい製品を生み出すようなイノベーション。もう1つは、既存の事業にかけてきたリソースを大きく削減することによって、新規事業にリソースを費やすことができるようになる。それによってイノベーションがもたらされるという、2つの側面があると思っています。

砂金氏：ウェビナーをご覧いただいている方々の中には、経営陣の方も多いと思いますが、信頼できる部下ってそれほど多くないと思うんですよ（笑）。ですから、チャットGPTのような生成AIを相手に「自分はこういう戦略を立てていて、ここまで勝ち筋が見えているけれども、何か見落としている穴がないか指摘してほしい」といった壁打ちをする。このような脳を活性化させるための壁打ち相手として、生成AIは抜群に優秀ですね。

生成AIには、クリエーティブな仕事をさせるというより、人間がよりクリエーティブな状態になるための文房具として生成AIを使う方が、人間とAIがうまくかみ合いながら新しいものを生み出していくことが当たり前になる世の中においては、すごく大事なのではないかと思います。

小林氏：自分が知らないことを聞いたときに間違ったことを言ってくることもあるんですよね。ただし、自分に知見がない分野だと、聞いている私自身が本当に正しいかどうか分からないこともある。そういった意味で、AIによる回答の品質を保つということが重要になってくると思います。

また、現状の日本におけるソフトロー（法律等により明確に規定されていないガイダンスのようなもの）による規制は、企業の皆さんからするとどこまで守れば良いか分からないという状況になってしまっている。イノベーションの阻害とよく指摘されますが、やはりある一定基準のルールを明確化した上で、そこを守りながら乗り越えていこう、という動きを作った方が、結果的に産業全体としてプラスに作用するのではないかと思います。

小宮氏：将来展望という点で言えば、フィジカル、現実世界とAIの融合というのもこれから期待される分野だと思います。NVIDIAもロボットの学習データというものを発表しましたが、学習の環境を合成させて、それを自動運転車や自律的に動くロボットに高速で学習させる。また、AIは機器の制御コードを生成できるようになってきたので、モノづくりもニーズに合わせてカスタマイズしながら自動化されるというように大きく変わってきます。

砂金氏：これを日本で議論するのは詮無いことではあるのですが、われわれ日本人が技術革新のレバーを握り切れているかというとそうではなくて。地球上のどこかで最新のAIがどんどん生まれていて、それをキャッチアップしていく以外に選択肢がないんですよね。ですから、感度を高く持って、最新の取り組みはどうなっているかということを、自分たちで正しく判断する力をもっておく必要があると思います。

昨年同様、識者の方々による本ウェビナーは、最後にEY新日本有限責任監査法人TMTアシュアランスリーダーの矢部直哉による閉会のあいさつで幕を閉じました。

AIはまだまだ一般化していないという認識もありましたが、今年は多くの方にとって、AIがより身近な存在となるでしょう。人口減少が進む中、日本が再び力を取り戻すためには、ガバナンスを構築しつつAIを活用することが不可欠であると考えられます。