中国国営中央テレビ（CCTV）はこのほど、一部のマルチチャンネルネットワーク（MCN）や個人のアカウントが、人工知能（AI）を利用して作成したフェイクニュース（偽ニュース）をネット上に投稿し、インプレッションを稼いで収益を得ていたと報じた。

とくに悪質な組織は、複数のMCNを運営しているという名目で800以上のアカウントを管理しており、1日で最大7000本以上の記事を投稿し、1日あたり1万元（約22万円）以上の報酬をプラットフォームから受け取っていたという。

記事作成には音声対話機能を持つ生成AIソフトが使われた。キーワードを言うと、ネット上の関連情報を検索し、数百～1000文字の記事が自動生成される仕組みだ。「XXが爆発！」「XXが逮捕！」、「XXが不祥事件！」といった刺激的なタイトルの記事に、事件と関連があるかのようなフェイク画像を添え、ネットユーザーの関心を集めていた。

法執行機関は、悪質なフェイクニュースで公共の秩序を乱したとして、複数の個人に行政拘留3～5日間の処罰を科した上で、不法所得を没収し、アカウントを閉鎖した。

AIがビデオ通話で「友達」になりすまし。会社社長が8500万円の振り込め詐欺被害：中国

目下、生成AIツールはさまざまな業界で幅広く活用されているが、生成されたコンテンツが物議を醸すこともしばしばあるため、コンプライアンスを守る仕組みを強化し続ける必要がある。

現時点では、最先端のAI技術を持つテクノロジー企業であっても、基本的には人の目でコンテンツのチェックとフィルタリングを行ってしている。現在は、関連事例を蓄積して総括しながら、人間とAIが補完しあう審査メカニズムを構築している段階だという。

中国ネット大手の騰訊控股（テンセント）は2024年6月に発表した公告で、傘下のSNSアプリ「微信（WeChat）」を通じて国内外の時事や公共政策、社会事件などに関連する情報を発信する際は、根拠とした権威あるメディアの記事や科学論文などを注記しなければならないとした。また、AIを用いて生成した情報を発信する場合は、AIが生成したコンテンツであることを必ず明記するよう求めた。

中国で続出する芸能人の不祥事によるお蔵入り問題、AIで顔交換して別人が熱演

＊1元＝約22円で計算しています。

（36Kr Japan編集部）