中国の一部のライブコマース・プラットフォームでは、AIによる顔交換技術を用いた有名芸能人の成りすましが商品を紹介している。顔交換モデル一式は3万5000元（約70万円）で購入でき、素材を自由に入れ替えることもリアルタイムで表情などを変化させることも可能で、ほとんどの主要ライブ配信プラットフォームに対応している。

業界関係者は、AIによる顔交換で有名人に成りすまして商品を紹介する行為は、詐欺やプライバシー侵害にあたる可能性があると指摘する。

中国では2023年1月、AIで作った偽動画「ディープフェイク」を利用した偽情報の発信などを禁止する規定が施行された。規定では、AIによる顔の交換や声の合成をサービスとして提供する場合、消費者の混乱を避けるため、ディープフェイクであることを明確に表示しなければならないとしている。

本人に無断で有名人の肖像をライブコマースに利用した場合は、肖像権やプライバシー権の侵害に問われる可能性もある。

早くも中国でAIが生成した美人ブロガーが多数登場。その前例に学ぶことは

ここ数年、AIによる顔交換や声の合成を利用したディープフェイクを判別する技術、とくに自動検知技術の開発が進んでいる。中国国外では、米IT大手のメタやグーグル、マイクロソフトなどが動画の真贋を判別する方法や関連プロダクトを発表。国内では、清華大学や中国科学技術大学などがディープフェイクの判別で目覚ましい成果を上げている。

AIがビデオ通話で「友達」になりすまし。会社社長が8500万円の振り込め詐欺被害：中国

＊2023年6月5日のレート（1元＝約19.7円）で計算しています。

（36Kr Japan編集部）

これについて同社は、公式アカウントが使用した写真の肖像権と名誉権に関する訴訟と確認したと表明。すでに当事者と話し合いを始めており、インターネット関連の裁判を行う北京互聯網法院（Beijing Internet Court）にも積極的に協力する意向を示した。

2013年に創業した新氧科技は、科学技術をベースに美意識の高い人々の健康と美容をサポートしている。2019年には米ナスダックに上場した。

IPOの目論見書によると、主要事業は美容医療に関するオリジナルコンテンツの提供、高度なSNSコミュニティの運営、美容医療オンライン予約サービスの3つだ。

同社が9月に発表した2021年第2四半期決算によると、第2四半期の売上高は前年同期比37.7%増の4億5180万元（約80億円）で、業績予想を200万元（約3600万円）ほど上回った。純利益（Non-GAAP）は同145.2%増の7370万元（約13億円）だった。

今回の訴訟が起こされた背景には美容医療業界の混乱がある。中国消費者協会（CCA）が昨年受け付けた美容医療に関するクレームは7233件で、5年前の483件に比べ15倍に増えたという。

中信証券（CITIC Securities）のリポートによると、中国の美容医療業界は創成期にサービス業者が秩序なく発展したためにマーケティングコストが高くなり、業界全体が理想的とは言い難い経営状況になっているという。

中国国家衛生健康委員会などは今年6月、「違法な美容医療サービス取締りの特別方案」を発表。8月には国家市場監督管理総局が「美容医療広告に関する法執行指針（意見募集稿）」を打ち出し、業界に対する監督管理は厳しくなった。

新氧の幹部は決算説明会で美容医療業界の監督管理について、社内に専門のコンプライアンスチームを設け、リアルタイムで国の政策と基準をフォローしながらプラットフォームの基準を最適化していると説明。また、規則違反情報リスク管理モデルライブラリーを持ち、社内管理とリスク管理に注力していることが同社プラットフォームの強みになるとしていた。

しかし、現時点では同社が進める管理体制の構築を見守る必要がある。

今回の訴訟が起こされる前にも同社は293件の訴訟に関与し、うち55.97%は被告の立場で関わっている。

同社の株価は今月25日（現地時間）時点で4.38ドル（約499円）で、2月17日に記録した年初来高値17.4ドル（約1978円）から75%近く下がり、公開価格13.8ドル（約1569円）の3分の1以下となった。
（翻訳・神戸三四郎）