ディープフェイクの現在とこれから～悪用を阻止するために～

ディープフェイクとは？

悪質なディープフェイクへの対策技術

ディープフェイクの悪用に対処するための技術として、以下の3つが挙げられます。

・検知技術：与えられた画像や動画がフェイクかどうかを検知する技術
　（具体例：深層学習による検知、瞳の瞳孔やまばたきのパターン、顔の表情・頭の動き）

・ブロックチェーン技術：オリジナル動画のハッシュ値を安全に記録するための技術

・メタデータ分析技術：動画のメタデータを分析し、矛盾を暴くための技術です。

検知技術

ある画像や動画がディープフェイクによるものかどうかを検知する技術です。

偽動画と本物の動画の違いを学習させたAIを用いることで、人間の目だけでは真偽が判断できない細かい部分の不自然さを検出することができます。

【具体例】

・深層学習による検知
・瞳の瞳孔やまばたきのパターン
・顔の表情・頭の動き

ブロックチェーン技術

オリジナル動画のハッシュ値を記録しておくことで、フェイク動画が出回った際にそのハッシュ値をブロックチェーンに記録されたものと参照して真偽を確かめる技術です。

一度ブロックチェーンに記録されたデータやハッシュ値の改ざんは困難なため、オリジナルのハッシュ値自体が公的な記録として扱われるようになります。

メタデータ分析技術

動画の作成日、使用カメラ、エンコード形式などといったメタデータを分析し、ビデオが主張している内容と、実際のファイル内に隠されている詳細との間の矛盾を明らかにする技術です。

最近はメタデータ自体も操作されていることがあるため、他の検出技術と組み合わせる必要があります。

コンサル業界やSIerの取り組み例

ディープフェイクの悪用対策に関する3つの主要な技術についてご説明しましたが、実際にコンサル業界やSIerがどのようなプロジェクトを行っているかをご紹介します。

【紹介事例】

・NTTデータ：ディープフェイク音声検知技術「Pindrop VOICE API」
・日立製作所：eKYCのディープフェイクに対する危険性の検証
・IBM：政府へのディープフェイク規制法支援

NTTデータ：ディープフェイク音声検知技術「Pindrop VOICE API」

NTTデータは、ディープフェイクにより合成された音声や録音された音声を検知するセキュリティソリューションとして、Pindrop VOICE APIを開発しました。

コロナ禍で定着したビデオ会議に関して、ディープフェイクを用いたなりすましかどうかを認証するセキュリティの手段として開発されました。利用者は事前に自分の声をシステム上に登録しておくだけで、異なる人物による利用を音声で検知することができ、不正を防止することができます。

今後はビデオ会議だけでなく、プライバシーが必要とされる公共サービスや、高度な認証が必要となるメタバース、などの業界にも適用していくと見られます。

参照：
NTTデータ／
次世代音声生体認証サービス「Pindrop VOICE API」の代理店契約を締結
～音声認識によるビデオ会議等でのなりすまし防止～

日立製作所：eKYCのディープフェイクに対する危険性の検証

日立製作所は、金融機関などで使われるオンライン本人確認「eKYC」のディープフェイクに対する危険性を検証し、その論文を発表しました。

論文では、ある男性の運転免許証を登録した後、ある女性がその男性になりすましたディープフェイク動画を作成して、本人確認を突破できるかどうかを検証しました。

その結果、偽動画と男性の運転免許証の顔写真が同一人物だと判定されたことにより、性別の差を超えてなりすましを行うことが十分に可能であることが示されました。

同論文ではこのようなディープフェイクに対する対策技術もまとめられていて、今後もなりすまし被害を避けるための技術開発が行われると見られます。

参照：
日立製作所／Deepfakeを用いたe-KYCに対するなりすまし攻撃と対策の検討

IBM：政府へのディープフェイク規制法支援

IBMは、政策立案者がディープフェイクによる被害を軽減するために優先して取り組む重要事項として、以下の3つを主張しています。

“
・選挙を守る
・クリエイターを守る
・人々のプライバシーを守る
　　　　　　　　　　　　　　”

引用：　　
日本アイ・ビー・エム／ディープフェイク対策として政策立案者が今すぐできること　　

この3つの課題を解決するために、IBMは技術的解決策だけではなく法的解決策も同時に実装することが必須だと考えEUのデジタル・サービス法やアメリカのフェイク禁止法などを支持しています。

このように国ぐるみでの大規模な取り組みを行っていることからも、ディープフェイク被害削減のための動きは現在非常に重要視されていることがわかります。

これからもIBMは、AIが世界経済と社会にとってプラスの存在にするために政策立案者が、これら3つの要素を早急に対策するように奨励していくと見られます。

将来的な展望

ディープフェイクは、生成AI技術の進歩と共に急速に進化していき、将来的には主にエンタメ産業や医療・教育分野などにおいて、より良質なコンテンツの提供ができるようになると見られます。

その一方で、よりリアルで説得力のある映像や音声がもっと容易に作れるようになることで、政治的な操作や詐欺行為などの悪意ある使用件数が増加する可能性もあります。

ディープフェイクは良い部分がたくさんあることに留意しながらも、対策技術や法的規制の強化を通して技術の進化に伴うリスクに対処する仕事の需要はこれからさらに高まって行くと思われます。

ディープフェイクのメリット

・映像・音響の特殊効果の向上
・新たなクリエイティブ表現
・プロセスの効率化

ディープフェイクのデメリット

・偽情報を容易に拡散しやすい
・詐欺や不正行為に使いやすい
・映像の信頼性の低下
・被写体のプライバシーの侵害

富士誇（フジコ）の見解

ディープフェイクは基本的に正しく使えば非常に私たちにとって有用になりうる技術の一つです。

その便利さを理解したうえで、手軽に偽動画が作れてしまうという点では非常に悪用がしやすい技術でもあるということにも注意しておく必要があるでしょう。

その中で、ディープフェイクに関する下記職種の市場価値が高まると見られます。

・セキュリティエンジニア
　ディープフェイクの悪用に対抗するための検出技術やツールを開発するエンジニアが重宝されると思われます。
　また、不自然なパターンや編集痕跡を検出するアルゴリズムやソフトウェアの開発が重要となります。

・ディープフェイク対策コンサルタント
　ディープフェイク技術を悪用するリスクに対処するための戦略やポリシーを策定し、対策の実施を指導するコンサルタントの需要も増えていくでしょう。
　ディープフェイクに関連するリスク管理やコンプライアンスの専門家が必要とされます。

・デジタルコンテンツクリエイター
　ディープフェイクを利用した映画やゲーム、アート作品などを制作するクリエイターは娯楽の発展において重要性が増していくと考えられます。
　リアルな特殊効果やCGを生成する技術やセンスを持ったクリエイターの需要が高まって行くと見られます。

少しでもディープフェイクに関してご興味があり、転職をお考えの方は、コンサルファーム・SIerを選択肢に入れてみてはいかがでしょうか。

【富士誇取り扱い求人】

• 株式会社 日立製作所／信頼できるAI技術に関する研究開発
• デロイト トーマツ サイバー合同会社／サイバーコンサルタント(デジタルアイデンティティ・ゼロトラスト領域)
• 株式会社NTTデータ／【法人】メディア業界向けAIエンジニア

「コンサルティングファーム/エンジニア転職なら富士誇にご相談ください！」

記事作成者：株式会社富士誇　吉田 爽汰