GLM-5.3のハードウェア要件

744Bの重み、40Bがトークンごとにアクティブ、そして4-bit ビルドが必要とする475GB。最強のオープンモデルに必要なもの、各量子化で何を犠牲にするのか、そしてそれを実現できるマシンはどれか。

Terminal showing GLM-5.3 loaded with llama-server and --n-cpu-moe 40: 744B parameters with 40B active per token, attention layers on the GPU and expert layers in system RAM, 475GB total memory and 94.29% top-1 accuracy

GLM-5.3は、現時点でダウンロードできる最も強力なオープンウェイトモデルです。Z.aiは2026年8月14日にこれを公開し、2週間後の8月28日に、安全性の強化が完了した時点でウェイトを公開しました。4 これはTerminal-Bench 3.0で最先端の結果を示し、前世代と比べてそのスコアを4.6%から28.3%へ引き上げます。4

また、これは744Bパラメータのモデルであり、実用的なビルドには475GBのメモリが必要です。どれだけベンチマークが高くても、実際に動かせるかどうかを決めるのはこの数値です。

  • パラメータ744B約 40B アクティブ
  • コンテキスト1Mトークン
  • ライセンスGLM-5.3独自ライセンス、MITではありません
  • 4ビット時のメモリ475GB94.3%精度

5.2と同じモデルを、さらに学習させたもの

GLM-5.3はGLM-5.2と基盤モデルを共有しています。向上分はすべて、ゼロからの事前学習ではなく追加の後学習によるものです。1そのため、アーキテクチャ、パラメータ数、メモリ要件は5.2のものと同一です。これは便利です。5.2の実行について学んだことはすべてそのまま当てはまり、5.2を動かした機械なら5.3も動かせます。

今年の最先端オープンモデルと同じく、これはMixture of Expertsです。総パラメータ数は744Bで、トークンごとにそのうち約40Bを使います。アクティブ数が少ないため、1台のマシンでも十分な速度で生成できます。総数が大きいのは、そのマシンに本格的な性能が求められるからです。ルーターがトークンごとに異なるエキスパートを選ぶため、すべてを常駐させておく必要があります。

必要なもの

UnslothはGLM-5.3向けに完全な量子化の段階表を公開しており、珍しく各項目の横に実測精度も掲載しています。この第2列があるからこそ、選択が可能になります。

GLM-5.3はUnslothのビルドを基にしています。メモリとは、システムRAMとVRAMの合計、またはユニファイドメモリのことで、コンテキストと作業用状態がその上に載るため、ファイルサイズより大きくなります。
ビルド ディスク上 メモリ 精度
UD-IQ1_S 216.7GB 223GB 72.56%
UD-IQ2_M 238.6GB 245GB 78.53%
UD-IQ3_XXS 281.7GB 290GB 84.15%
UD-Q3_K_XL 343.0GB 360GB 88.86%
UD-Q4_K_XL 467.3GB 475GB 94.29%
UD-Q5_K_XL 562.5GB 570GB 95.82%

各量子化で何を犠牲にするか

量子化では各重みをより少ないビット数で保存します。節約効果は確かですが、代償も確かにあり、その代償は線形ではありません。下から段階表を読むと最初の数段はほとんど無償ですが、上から読むと最後の数段は非常に厳しくなります。

各量子化で何を犠牲にするかフル精度モデルに対して失われたTop-1精度を、パーセンテージポイントで示します。低いほど良いです。
  1. 1ビット27.4
  2. 2ビット21.5
  3. 3ビット15.9
  4. 3ビット XL11.1
  5. 4ビット5.7
  6. 5ビット4.2

Unslothが公開している、GLM-5.3のUD-IQ1_S、UD-IQ2_M、UD-IQ3_XXS、UD-Q3_K_XL、UD-Q4_K_XL、UD-Q5_K_XLビルドにおけるトップ1の精度を基にしています。1

4ビットから2ビットにすると230GB節約でき、精度は約16ポイント下がります。5ビットから4ビットにすると95GB節約でき、精度低下は1.5ポイントです。予算を512GBまで伸ばせるなら、4ビットが、モデルがまだ本来の動作を保てる境界です。それ以下では、もはやデモの範囲です。

475GBに到達する3つの方法

ユニファイドメモリを1つのプールで使う。 Mac Studio M3 Ultra 512GBなら、コンテキスト用の余裕を持って4ビット版を収容でき、現時点でこれを実現できるマシンです。2ビット版の245GBなら、256GBマシンにそのまま収まります。2 どちらの場合も、Apple siliconでは512GBが上限です。より新しいM5 Ultraも同じ数値が上限で、512GB構成は10月下旬まで登場しません。5

カード+システムRAM。 モデルが疎であるため、この分割はうまく機能します。Attention層はグラフィックスカード上、Expert層はシステムメモリ上に置かれ、llama.cppの--n-cpu-moeフラグで境界を設定します。Unslothは、この方法でGLM-5.2を24GBカード1枚と256GBのRAMで動かしたと報告しています。2ただし、ユニファイドメモリよりは遅くなります。Expert重みの読み込み速度がVRAMではなくDDR5の速度になるためです。ここで8チャネルのワークステーション・プラットフォームの価値が生きます。

すべてをVRAMに置く。 RTX PRO 6000カード4枚で384GBが得られ、3ビット版に十分です。HelixMLは、より小さいGLM-5.3-FlashをRTX PRO 6000 Server Editionカード4枚で、1リクエストあたり63.7出力トークン/秒、speculative decodingありで82.8と計測し、これを実現するにはSGLangの固定された実験用ビルドが必要でした。3新しいアーキテクチャの初日サポートが完全に整うことはめったにありません。

製品化を計画する前にライセンスを読むこと

ここが、GLM-5.3が自らの系統の中でも異なる点であり、ほとんど誰も触れません。GLM-5.2はMITで公開されました。6 GLM-5.3はそうではありません。そのウェイトにはモデル名を冠した独自ライセンスが付いており、直近12か月売上が$10Bを超えるmodel-as-a-service事業者は、商用利用の前にZ.aiのセキュリティ審査を受ける必要があります。4 8月26日に公開されたGLM-5.3-Flashは、再びMITです。4

ほとんどの事業者にとって、売上しきい値は学術的な論点にすぎません。重要なのは、このライセンスが同一ファミリー内でもリリースごとに異なるようになったことです。そのため、ベンダー単位ではなくモデル単位で確認してください。

重要な設定

通常の作業では temperature を1.0、top-p を0.95にし、長時間のエージェント実行では top-p を1.0にしてください。1

このリリースには固有の落とし穴があります。GLM-5.3 はデフォルトで最大限の推論を使用し、thinking はオフにできません。これは 5.2 には当てはまりません。これを抑えるには --chat-template-kwargs '{"reasoning_effort":"low"}' を渡し、複数ターンの会話では clear_thinking を true に設定して、古い推論がコンテキストに蓄積されないようにしてください。1 長い会話でそのまま使い続けると、トークンもメモリの余裕もどちらも消費します。

これらの計算の根拠については、open model をローカルで実行するのにどれだけメモリが必要か をご覧ください。同じ重量級での最新リリースについては、DeepSeek V4.1-Flash をご覧ください。今日の 512GB マシンとは、Mac Studio M3 Ultra 512GB、または Neox Metal に 512GB の registered ECC memory を搭載したものを意味します。

参考資料

  1. Unsloth, GLM-5.3: ローカルでの実行方法 — パラメータ、量子化サイズ、メモリ要件、ビルドごとの top-1 精度、推奨設定、および reasoning-effort フラグ。
  2. Unsloth, GLM-5.2: ローカルでの実行方法 — 2-bit ビルドを 256GB 統一メモリの Mac 上で動かす方法、および MoE オフローディングを用いた単一カード運用。
  3. HelixML, "GLM-5.3-Flash on RTX PRO 6000, Part 1", 2026年8月27日。
  4. Z.ai, GLM-5.3 model card and licence, Hugging Face — launch and open-weights dates, Terminal-Bench 3.0 results, licence terms, and the MIT-licensed GLM-5.3-Flash.
  5. Apple, "Apple introduces M6 and M5 Ultra", 2026年8月25日 — 512GB 最大統合メモリ。
  6. Z.ai, GLM-5.2 model card, Hugging Face — MIT ライセンス。