人工知能（AI）技術の進歩に伴い、AIを利用した詐欺やプライバシー侵害の事例も発生している。

中国の一部のライブコマース・プラットフォームでは、AIによる顔交換技術を用いた有名芸能人の成りすましが商品を紹介している。顔交換モデル一式は3万5000元（約70万円）で購入でき、素材を自由に入れ替えることもリアルタイムで表情などを変化させることも可能で、ほとんどの主要ライブ配信プラットフォームに対応している。

業界関係者は、AIによる顔交換で有名人に成りすまして商品を紹介する行為は、詐欺やプライバシー侵害にあたる可能性があると指摘する。

中国では2023年1月、AIで作った偽動画「ディープフェイク」を利用した偽情報の発信などを禁止する規定が施行された。規定では、AIによる顔の交換や声の合成をサービスとして提供する場合、消費者の混乱を避けるため、ディープフェイクであることを明確に表示しなければならないとしている。

本人に無断で有名人の肖像をライブコマースに利用した場合は、肖像権やプライバシー権の侵害に問われる可能性もある。

早くも中国でAIが生成した美人ブロガーが多数登場。その前例に学ぶことは

ここ数年、AIによる顔交換や声の合成を利用したディープフェイクを判別する技術、とくに自動検知技術の開発が進んでいる。中国国外では、米IT大手のメタやグーグル、マイクロソフトなどが動画の真贋を判別する方法や関連プロダクトを発表。国内では、清華大学や中国科学技術大学などがディープフェイクの判別で目覚ましい成果を上げている。

AIがビデオ通話で「友達」になりすまし。会社社長が8500万円の振り込め詐欺被害：中国

＊2023年6月5日のレート（1元＝約19.7円）で計算しています。

（36Kr Japan編集部）