写真の顔を動かすことができるアプリ「Avatarify」が話題になり、直後に中国のアプリストアから削除されたことによって、AIによる人物画像合成の技術（ディープフェイク）に再び注目が集まっている。昨年、急激に盛り上がった顔交換アプリ「ZAO」のようにAIを利用して顔を入れ替えるアプリが議論を引き起こす理由は、ディープフェイクによる本物そっくりな偽動画が、個人のプライバシーや肖像権の侵害をもたらすからだ。

2014年に敵対的生成ネットワーク（GAN）の技術が登場して以来、コンピュータによる画像や映像の合成技術は、次々と目覚ましい成果を上げている。技術そのものは中立的だが、2017年にはアメリカの投稿サイト「Reddit（レディット）」のユーザーが、映画「ワンダーウーマン」主演女優を使ったフェイクポルノ動画をネットにアップするなど、ディープフェイクは政治、エンターテインメント、マスメディアなど多くの分野に浸透し、米大統領選にも脅威をもたらした。

ディープフェイクの検出を手がける「Sensity」の調査によると、2018年12月以来、ディープフェイクによる偽動画は年々増加し、その数は半年で倍増している。2020年6月には、偽動画の本数は前年同期比330%の4万9000本に達した。中でもポルノ動画が最も多く、ターゲットとなるのは映画やエンタメ業界、政治や経済界の著名人だ。

昨年、マレーシアの政治家が同性愛行為の疑いで捜査されたが、騒動の元になった動画がディープフェイクであることが後に判明した。この技術を基にしたコメディ動画など娯楽として楽しめるものもあるが、現在の状況から言うとディープフェイク技術が人々に与える弊害は利益を上回っている。

このためフェイスブックやグーグル、マイクロソフトなどIT大手はディープフェイクに対抗する検出技術の開発に取り組んでいる。フェイスブックは過去最大規模のディープフェイクデータベースをリリースし、さらにディープフェイクの検出コンテスト「Deepfake Detection Challenge」を開催した。このコンテストを通じて、AIによるディープフェイクを識別する製品とそのAPIが誕生した。

より巧妙になっているディープフェイク動画を肉眼で識別するのは難しく、AIによるディープフェイクを見破るにはAIに頼る必要がある。新しいアプローチとしては、動画の中の人物の心拍数や血流など生物学的信号を検出し、信号の残差を分析することによって、動画の真偽を判別できる方法がある。この方法による判別精度は97.29%に達している。

中国国内でも、バイドゥがAI技術プラットフォーム「百度大脳」上で「顔検出」「H5動画生体識別」「オンライン生体識別」などのAPIをリリースするなど、ディープフェイク検出に関連するアプリが次々と登場している。深層学習アルゴリズムに基づいて、画像が合成される時に生じるモアレパターンやジャギーなどの特徴を識別し、静止画像や動画における顔偽装の不正攻撃を防止し、業務の安全性を向上させることができる。現在、この機能は不動産取引の身分認証、保険の加入、契約査定、請求の際の補助的チェック、通信キャリアの実名登録制によるSIMカードの発行、レンタカー業務などに広く利用されている。

AI研究を行うアリババの「安全図霊実験室（Alibaba Turing Lab）」も、マルチインスタンス学習（MIL）に基づく検出アルゴリズム、Sharp-MIL（S-MIL）を作成した。

テンセント（騰訊）のクラウドサービス「騰訊雲（テンセントクラウド）」は、ディープフェイク検出技術「AntiFakes」をリリースし、画像アルゴリズムとAIビジョンに基づいて、画像または動画の中の人物の顔がAIによって入れ替えられたものかどうか、アプリによって生成されたものかどうかを判別し、画像または動画のリスクレベルを評価することができる。

感情認識ネットワーク（Emotion Recognition Network）も測定方法のひとつであり、顔の表情がその場面の状況や音声内容と一致するかどうかを検出することで、動画の真偽を判別する。ほかにも人物の顔と背景の領域を比較し、微妙な差異を見つけ出して真偽を判別する方法もある。さらにディープフェイクで偽装された顔画像を学習データに混ぜて、偽装によって生じる画像内の差異の境界線と位置を特徴量として判別を行うFace X-rayという検出モデルもある。ディープフェイク検出をサポートするデータセット「FaceForensis」でテストを行ったところ、Face X-rayの精度は99%以上に達した。

ディープフェイクによる顔交換技術は巨大なトラフィックを獲得し、マーケティング方法としても活用できる可能性がある。しかしこのような技術を適切に管理できる制度ができるまでは、ユーザーの個人情報に対する安全リスクがあるアプリとして、アプリマーケットから削除される可能性が高い。ディープフェイクを作り出すアプリより、それを防止するアプリの方がより多くのチャンスを秘めている。上述の製品以外にディープフェイク検出技術を手掛ける「Sensity（センシティ）」、「Deepware」が手掛ける製品や、マイクロソフトのディープフェイク検出技術「Video Authenticator」など商用化が進んでいる製品がある。

AIによる顔交換技術はパンドラの箱を開いたと言える。この技術は一部の人にとっては格好の暇つぶしのツールとなり、また悪意を持った人にとっては他人を傷つける道具にもなる。この諸刃の剣のような技術をどのように適切に扱い、娯楽とプライバシー保護のバランスをどう取っていくか、これは人類がテクノロジーの発展過程において向かい合わなければいけない問題だ。

作者：智能相対論（WeChat ID：aixdlun）、離離
（翻訳・普洱）

原文はこちら