インターネット上に氾濫する『ディープ・フェイク』から身を守るために、個人や企業にはどう備えるべきか

インターネット上に氾濫する『ディープ・フェイク』から身を守るために、個人や企業にはどう備えるべきか


たった一枚の写真から本人と見分けのつかない動画を作ってしまう「ディープ・フェイク(合成メディア)がネット上に氾濫しています。「なりすまし」がさまざまな犯罪に使われ、米国大統領の偽動画がSNSにアップされるなど、国家安全保障を脅かしかねない状況が生まれています。

各種手続きの電子化が進むにつれ、本人確認のためにデジタル画像を使う機会が増えますが、ディープ・フェイクはデジタル・トランスフォ-メーション(DX)の大きな脅威になりつつあります。
 

インターネット上にまん延する「ディープ・フェイク(合成メディア)」が社会に与える影響

「ディープ・フェイク」はもともとコンピューター・グラフィックス(CG)から始まりました。2000年前後から映画でもCGを使用した大作が目立つようになってきましたが、当時は「これはCGだな」と一目で分かるレベルでした。有名人などの顔をすげ替える「アイコラ(アイドル・コラージュ)」も粗悪で、すぐ偽物と分かりました。しかし2018年にネットで流れたオバマ前大統領の偽動画(トランプ大統領候補者を誹謗中傷する内容)あたりから、少し見ただけでは本物と見分けがつかないものが出回り始めました。

スマートフォンのような小さな端末だとより見分けにくく、SNSであっという間に拡散します。なりすまされた方が「これは自分ではない」と否定する暇もありません。昔のCGは高価な機材とそれなりのスキルがないと作れませんでしたが、今は素人がスマートフォンで簡単に作ることが可能です。


社会への影響で最も心配されるのは「本人確認」への波及です。昨今、問題になっている電子決済の「なりすまし」は、口座番号や名前を不正に入手したものです。これは窓口での本人確認を入れれば防ぐことができますが、デジタル化の進展により、本人確認がリアルの対面からデジタル画像に代わっていくと考えられます。ここでは顔認証の技術が鍵になりますが、システムを欺くディープ・フェイクが出てくる恐れがあります。


2019年には米議会が「(ディープ・フェイクは)国家安全保障を弱体化させ民主主義に対する国民の信頼を損なうなど不法な目的に使用させる可能性がある」と警鐘を鳴らした*1

2016年の米国大統領選挙で外国からのサイバー攻撃があり、ディープ・フェイクの画像が使われて選挙結果に影響を及ばしたとも言われています。偽物の大統領のメッセージがSNSで拡散されるようになったら、民主主義の危機となる恐れがあります。すでに人間の目で画像が偽物だと判断するのは難しいレベルに達しているため、内容の不自然さなどで見分けるしかないのですが、いかにも言いそうなことを言われたらそれも難しくなります。

今の技術なら実在しない人物を作り上げ、その画像をアップすることもできますし、合成した経営幹部の声で振り込みを促すような犯罪も起きています。事態は深刻と言わざるを得ないでしょう。
 

テクノロジーでディープ・フェイクを見破ることは不可能か

例えば顔認証の分野では最近マイクロソフトが偽の顔を見破るソフトウエアを開発しました*2。しかしサイバー攻撃においては攻撃側がディフェンス側より圧倒的に優位にあると考えなくてはなりません。

なぜなら、攻撃側はどんな道具を使ってもいいし、いつ、どこから攻めてもいいのに対し、ディフェンス側はその全てに対応しなければならないからです。攻撃側はあらゆる手段を試し、ディフェンスにはじかれなければその方法が「有効だ」と分かります。ディフェンス側があらかじめその全てに備えるのは不可能に近いのです。
 

ディープ・フェイクから身を守る方法

最も有効なのは「真正性」を証明することです。真正性とは「このサイトは自分が作ったものであり、この画像は確かに自分自身である」と証明することです。本物の情報には全て「真正性の証明」がついている状況が作れれば、「真正性の証明」がない情報は全てフェイクの可能性がある、人々は考えるようになります。こうなればディープ・フェイクの被害を最小限に食い止めることができるようになります。

「真正性の証明」は「なりすまし対策」にも有効で、顔認証などの生体認証に本人しか持っていない情報(マイナンバーカードの番号など)や本人しか知らない情報(家族の生年月日など)を組み合わせることで、より真正性を高めることができます。
 

個人や企業はディープ・フェイクにどう備えるべきか

ディープ・フェイクは、たった一枚の写真からその人そっくりの映像を作り上げてしまいます。誰もが「なりすまされる」リスクを抱えていると認識すべきでしょう。それでも手続きの電子化などは進んでいきますから、個人としてはオンライン認証の仕組みを理解するなど、なりすまし防止のテクノロジーにしっかりついていくことが求められます。

一方で、企業はまず、オンライン上で自分たちのチャネルを確立し、そのチャネルの「真正性」をしっかり確保することが重要です。「自社の情報は全てここから発信しています。ここ以外から発信されている自社の情報は真正性が担保されていません」と世間に知らしめるのです。その上で、自社サイト以外に出ている自社の情報をチェックしてディープ・フェイクを検知し、情報を抜き取るフィッシング・サイトなどを消していく努力を続ける必要があります。


*1 House Intelligence Committee To Hold Open Hearing on Deepfakes and AI | Permanent Select Committee on Intelligence
 intelligence.house.gov/news/documentsingle.aspx?DocumentID=657(2020年10月16日アクセス)

*2 虚偽情報対策に向けた新たな取り組みについて - News Center Japan
news.microsoft.com/ja-jp/2020/09/07/200907-disinformationdeepfakes-newsguard-video-authenticator/(2020年10月16日アクセス)


サマリー

ディープ・フェイクの技術は日々進歩しており、肉眼で偽物を見破ることは日に日に難しくなっています。今のところ本物の情報に「真正性の証明」をつけることが最大の防御策と言えます。ディープ・フェイクを防ぐためのオンライン認証の技術も進化していきますが、ディープ・フェイクから身を守るためには個人も企業もこうしたテクノロジーの進歩についていく必要があります。


この記事について