智譜AIは2019年に清華大学コンピューターサイエンス・テクノロジー学科知識工学実験室（Knowledge Engineering Group）がインキュベートした企業だ。同社が開発した大規模言語モデル「GLM-130B」は、米スタンフォード大学基盤モデル研究センター（Stanford CRFM）が2022年に世界の主要大規模言語モデルとして選んだ30のモデルのうち、アジア圏から唯一選ばれた。

智譜AIは今年複数回にわたる資金調達を行い、累計で25億元（約500億円）を調達、一躍ユニコーンとなった。今年8月31日、中国国家インターネット情報弁公室（CAC）から大規模言語モデル（LLM）をベースとするプロダクトやサービスについて一般公開を承認する初のリストが公表された際、同社もそのひとつに選ばれている。

中国の大規模言語モデル、政府が一般公開を承認　第1弾はバイドゥやアリババなど11社の激戦

特定のタスクでChatGPT-3.5に近づく

智譜AIのChatGLM3はChatGPTの画像認識機能を持つ「GPT-4V」をベンチマークとしたもので、パラメーター数が15億、300億、600億と3つのバージョンがリリースされた。新たに加わったパラメーター数15億のモデルはノートブックパソコンやスマートフォン、自動車でも利用可能な軽量モデルだ。

ChatGLM3は主に次の点で機能が向上した。まず、視覚言語モデル「CogVLM」搭載で画像や言語の認識能力が高くなった。次に、ChatGPT「Code Interpreter」の導入によりユーザーの求めに応じてPhytonコードを生成・実行し、自動のデータ分析やファイル処理といった複雑な作業が可能となった。さらに、ウェブ検索機能拡張モデル「WebGLM」でインターネットに接続する。そして言語とロジックの理解力が強化された。

今、AIアプリの開発では自律的にタスクをこなす「AIエージェント」が新たなトレンドとなっているため、ChatGLM3も自社で開発したエージェントのチューニング技術を一体化させた。

大規模言語モデルでは、汎用性と特定の場面に特化した能力が往々にして反比例する。つまり汎用性に優れた大規模言語モデルを使ったAIエージェントは、特定のタスクに対する能力が弱くなってしまう。エージェントチューニングのカギは、軽量かつ質の高いプロンプトチューニングのデータセットを構築することにある。この方法でチューニングした大規模言語モデルは、特定のタスクの実行能力を高めつつも汎用性を保持できる。

GLMのトレーニング原理

智譜AIの張鵬CEOはかつて36Krの取材に対し「わが社は『中国のOpenAI』を目指すつもりはない」と話した。張CEOの考えでは、中国にはあらかじめトレーニングされた独自のモデルがなく、主流となっている大規模言語モデルのGPT、BERT、T5はいずれも欧米のものだ。

欧米の独占状態を打破すべく智譜AIが開発したのが全く新しい汎用性言語モデル（GLM）だ。GLMをベースとした中英二カ国語対応の対話型モデル「ChatGLM-6B」をすでにオープンソース化しており、コーディングや動画、画像生成が可能な一連のモデルも開発している。現在は法人向けの学習、ファインチューニング、デプロイメントなどのサービスが同社の主要事業となっている。

最新の「AgentBench」におけるChatGLM3-turboの性能

市場でAIアプリへの需要が高まり続けるなか、智譜AIのMaaS（Model as a Service）プラットフォーム「智譜AIオープンプラットフォーム」では、より経済的な法人向けChatGLMの利用を提案している。法人向けChatGLM3-turboなら直接ChatGLMを導入するのに比べて費用が半分になる。張CEOによると、LLMの性能を測定する標準化されたテスト「AgentBench」の最新結果では、ChatGLM3-turboのエージェントとしての性能はOpenAIのChatGPT-3.5に肉薄していたが、ChatGPT-4との差は歴然としていたという。

＊2023年11月21日のレート（1元＝約20円）で計算しています。

（翻訳・36Kr Japan編集部）

The post 注目の大規模言語モデル「Zhipu AI」、新たに対話型AIを発表　ChatGPT3.5に迫るレベル first appeared on 36Kr Japan | 最大級の中国テック・スタートアップ専門メディア.