北京市の市場監督管理局はこのほど、人工知能（AI）技術を利用した虚偽広告の初の摘発事例を発表した。

調査によると、市内の企業が運営する動画アカウント（フォロワー数約88万人）のライブ配信で、「深海魚由来フィッシュオイル」を販売し、目まい・頭痛・手足のしびれ・記憶力低下など、さまざまな疾患に効果があると宣伝していた。配信中には、中国中央電視台（CCTV）の人気キャスター李梓萌氏が登場し、あたかも商品の推薦コメントを行っているかのように見えた。

しかし当局の調べでは、当該製品は実際には「糖果（キャンディー）」規格の一般食品に過ぎず、医療効果は一切認められていなかった。また、動画内に登場するキャスターの映像はAIによる合成動画（ディープフェイク）であることが判明。李梓萌氏の公開映像を編集・加工し、自作のナレーションを加えて虚偽の宣伝と製品販売を行っていたという。

これは北京市の監督当局が、生成AIを悪用した虚偽広告に対して初めて実施した取り締まり事例だとされる。AI技術の普及に伴い、有名人の肖像を無断で使用した偽広告やニュース報道の改ざん、権威機関を装うなどが容易になり、社会的なリスクが高まっている。専門家は、AI生成コンテンツ利用に関する法的責任の明確化と、識別技術の整備が急務だと指摘している。

AIがビデオ通話で「友達」になりすまし。会社社長が8500万円の振り込め詐欺被害：中国

有名人の「顔」70万円で販売。ディープフェイク技術で金儲け、中国で事例報告

顔写真が20円で取引される中国。犯罪者が顔認証データ偽造、詐欺に悪用

中国で続出する芸能人の不祥事によるお蔵入り問題、AIで顔交換して別人が熱演

（36Kr Japan編集部・茶谷弥生）