画像上の顔を書き替えるディープフェイク（Deepfake）技術が初めて現れてから、ディープフェイクアプリ「ZAO」がSNSのWechatを通して中国を席巻するまで、2年しか経っていない。

ディープラーニング技術に基づくAIによるディープフェイク技術は、真偽を見分けるのが難しい動画を多数作ってきた。そして、AIによる偽造技術が恐怖を生み出しており、プライバシー、真実性、著作権などの問題に注目が集まっている。

中国では、政府部門の監督管理がディープフェイク技術に追いつきつつある。2019年11 月 29 日、中国国家インターネット情報弁公室は「ネットワーク音声・動画情報サービス管理規定」（以下、規定）を公布し、ディープラーニング技術を利用した動画内容についての規則を制定した。

規定の第11条によると、ネットワーク音声動画情報サービス提供者と利用者がディープラーニングやVR等の新技術で真実ではない音声や動画情報を発信する場合、それが真実ではないと明確に記載しなければならない。また、ディープラーニングやVR等の技術を利用し、虚偽の情報やニュースを制作、公表、発信してはならない。音声と動画ニュースまたは情報を転載する場合は、国の規定範囲内の企業団体が発表する音声と動画ニュースを合法的に転載するものとする。

つまり、一般人とサービス提供者が真実ではないAI音声や動画を発信する場合、AI技術により制作したということを明確に記載すべきであり、且つ虚偽のニュースや情報を制作してはいけないことになる。

中国の動画サイト「ビリビリ（Bilibili）」では、大量の一般ユーザーが作ったディープフェイク動画があり、中国の芸能人の顔が素材となっているものが多い。これらの動画はほとんどが娯楽目的で制作されており、レベルもまちまちで、ドラマの名場面などがよく使用される。

また、同規定はサービス提供者に、安全性の評価、編集された音声と動画の識別技術、真実ではないと明確に記載されていない音声と動画の発信の取りやめ、デマが発生した場合の対応等について求めている。規定は2020年1月1日より施行される。

誕生当初から「攻撃的」な特徴を持つディープフェイク技術には、絶えず驚嘆と疑義の声がついて回る。出演者が自主的に公開したいわけではないこの種のコンテンツの発信について、中国に比べ海外のプラットフォームはより厳しく管理しているようだ。

例えば、2018年1月31日、動画をGIFに変換するサイト「Gfycat」はディープフェイク技術が使用されたすべてのコンテンツを削除した。同年の2月と9月に、動画投稿サイト「Reddit」と「Pornhub」、Googleも相次ぎフェイクポルノ政策に違反する動画などの関連投稿を禁止している。

2016年6月に、FacebookのCEOのマーク・ザッカーバーグ氏の顔を素材にディープフェイク技術で編集された動画がFacebookとInstagramで配信された。その後、Facebookはディープフェイク関連コンテンツを削除はしないが、偽造だと明確にマークをつけ、検索の優先度を下げることなどで対応すると発表した。

（トップ画像はbilibiliより）

（翻訳：小六）

原文はこちら