人工知能（AI）で作られた偽コンテンツの検出技術を手がけるスタートアップ企業「中科睿鑑（Smart Insight）」がこのほど、達晨財智（Fortune Capital）から1億元（約140億円）近くを調達した。資金は製品ラインの拡大、検出AIの開発に充てられるという。

Smart Insightは2020年に設立され、ディープフェイクやAI生成コンテンツ（AIGC）、改ざんされたソフトウエアなど、AIで作られた偽の音声・動画・画像コンテンツの検出技術に注力する。AIによる偽コンテンツの検出、フェイクニュースの識別、マルチメディアコンテンツのセキュリティ審査、大規模言語モデルのセキュリティ評価などの技術を有し、政府や企業、個人にソリューションと製品を提供している。

同社は偽コンテンツ検出分野で中国を代表する1社だ。創業者の曹娟氏は、中国科学院計算技術研究所でデジタルコンテンツ合成・偽造検出研究室の主任を務めている。チームは、複数の国際会議や権威ある学術誌で70本を超える論文を発表し、偽造検出に関する50件余りの特許を保有している。

各AIモデルのアルゴリズムには、人間の指紋のようにそれぞれ異なる固有の特徴があり、アルゴリズムが合成したデータをAIで解読するための手がかりとなる。

例えば、同社の画像検出ツール 「睿図」を使って調べた顔画像のうち3枚は、生成AIで作られた画像と判定され、アルゴリズムの特徴から画像生成AIのMidjourneyが使用されたとの結果が出た。

しかし、生成AI技術が飛躍的に進歩したため、従来の検出技術ではもはや十分に対応できなくなっている。

曹氏は、これまでは特定の分野に特化した小規模な検出モデルを使っていたが、大規模言語モデル（LLM）の発展により、アルゴリズムの汎用性と汎化性が大きく向上したと説明する。つまり、特定の分野にしか対応できない小規模な検出モデルでは、AIが無限に生み出す偽コンテンツに対処できなくなったのだ。

これを受けて、同社も高い汎化能力を持つ大規模な検出モデルでディープフェイクに対処しようと考え、2023年3月に独自開発のコンテンツ検出マルチモーダル基盤モデル「睿鑑図霊」を発表した。

曹氏によると、60億のパラメータを持つ「睿鑑図霊」は、200テラバイト（TB）に上る高品質の生成データとシーンデータをもとに訓練されている。また、検出分野のMoE（混合専門家）アーキテクチャを採用することで、40余りの小規模な検出モデルを統合し、より効率的で正確な検出を可能にした。さらに、高い汎化能力を持つため、新たに出現する生成AI技術に応じて、検出能力を迅速に進化させられるという。

同社はさまざまな偽コンテンツの検出やマルチモーダルデータの生成、コンテンツのコンプライアンス審査などのコア技術をベースに、モデルからデータ、ハードウエアに至るAI技術を公共や金融、メディア、教育のセキュリティに活用し、テキスト、画像、動画、音声の偽コンテンツ検出を進めている。

「睿鑑図霊」をベースとする検出エンジンは、Stable Diffusion、Midjourney、DALL-E、VideoPoet、Soraなど主要な画像・動画生成AIで作られたコンテンツを平均90％以上の精度で検出できる。また、Gen-2やPikaなど10種類以上の動画生成AIによるコンテンツに対しても、検出精度が90％を超える。

曹氏によると、ディープフェイク検出技術が大きく広がったのは2023年だ。それ以前は、生成AIの量が少なく種類も限られていたことから、検出技術は特定の分野でしか効果を発揮できなかった。そのため、同社は政府や企業向けのサービスに注力していた。

今ではAIが作った偽コンテンツの数と種類が増え、検出技術を消費者向けに提供する必要性が高まった。同社は2022年にWeChatミニアプリ「睿鑑AI」をリリースし、消費者向けにテキストや画像、動画の検出サービスを開始している。曹氏は今後について、PC用ソフトウエアやアプリなどさまざまな形で、消費者向け検出ツールを提供していく方針を示した。

＊1ドル＝144円で計算しています。

（翻訳・大谷晶洋）

36Kr Japanで提供している記事以外に、スタートアップ企業や中国ビジネスのトレンドに関するニュース、レポート記事、企業データベースなど、有料コンテンツサービス「CONNECTO（コネクト）」を会員限定にお届けします。無料会員向けに公開している内容もあるので、ぜひご登録ください。

原文はこちら