Mistral Large 4がオープンウェイト公開、ローカル推論の選択肢に
25秒でわかる内容解説
Mistral AIは2026年10月29日、テキストと画像を入力できる大型モデル「Mistral Large 4」をHugging Faceで公開した。総数約1兆パラメータだが、1トークンで動くのは約490億パラメータだけで、100万トークンのコンテキスト長を持ち、推論の強さをlow、medium、highから切り替える機能を持つ。自分のPCやサーバーで動かす技術者・愛好家には、公式の推論手順が用意された点が直接の確認点になる。
重み構造とライセンス、ローカル設定の入口
公開された重みは、専門家と呼ばれる小さな回路を128個持つMoE構造で、1トークン、つまり文章を刻んだ1単位につき4個と共有専門家1個が動く。Mistral AIは自社の欧州データセンターにある3,800枚のNVIDIA Grace Blackwell GPUsで最初から訓練したと説明する。画像入力はPixtral方式の画像処理部で、サイズや縦横比が変わる写真や図表に対応し、テキストと画像を受け取ってテキストを返す。
言語は160以上を掲げ、EUの公用語をすべて含む。
単一の重みで指示追従、推論、コード、外部ツールを使うエージェント作業を兼ねる。役割指示であるシステムプロンプトへの追従や関数呼び出し、厳密なJSON形式の出力も同じモデルで扱う。ライセンスはMistral Ecosystem Open-Weight Licenseで、商用・非商用を問わず使えるが、Model-as-a-Service、つまりモデル提供サービスを営むには個別の商用契約が必要になる。
モデルは権利を侵害する使い方を禁じる条件も含む。
ローカル運用では、推論の強さをlow、medium、highから選べ、既定はhighである。推論モードは、短い返信と複雑なエージェント実行を同じ重みで切り替えるための設定で、既定のhighは重い作業向けである。表に示す推奨設定と配布形態は、自分の環境で動かす際の最初の確認点になる。
| 項目 | 値 |
|---|---|
| 推奨サンプリング | 温度は1.0、上位確率は0.95 |
| 推測デコード | DSparkを有効化し、3トークン分を先行提案 |
| 公式Dockerイメージ | vLLM用とSGLang用のイメージが用意 |
| Mistral Vibe設定 | 推論スタイルに推論を指定し、思考は高に設定する例 |
vLLMからllama.cppまでの公式統合
Mistral AIはモデルカードにブログへのリンクを示し、公式APIではmistral-large-4として同じ重みを扱う。推論サーバーとしてvLLMを推奨し、vLLMのレシピに既製のサーバー設定をまとめた。vLLMではtensor-parallel-sizeを8に置いた例を示し、ツール呼び出しと推論内容の分離に専用のパーサを要求する。
SGLangでも公式クックブックが用意され、DSparkを有効にした場合の同時実行数の例を64に固定する。Transformerでは開発中のmainブランチの導入が必要で、torchrunによる8GPU実行を例示する。llama.cpp向けにはggml-orgのGGUF形式が公開され、UnslothもGGUFを置いている。
微調整はAxolotl、Unsloth、TRLのガイドが用意される。Mistral Vibeというコマンドラインのコーディングアシスタントもあり、ローカルvLLMサーバーを指す設定例が載る。モデルカードの題名にはLe Chonkという通称が付き、コミュニティのデモも同じタグで集まる。推論と微調整の両方に公式手順が結ばれ、自作アプリケーションへの組み込み手順は増える。
ベンチマークとコミュニティデモ
ベンチマークでは、Artificial Analysis Coding Agent IndexでML4（Mistral Large 4）が48%を取った。この指標では首位のオープンウェイトモデルGLM-5.3とほぼ並ぶ結果となった。一方で、タスクあたりの平均トークン使用量は47%少なく、エージェント作業を経済的にする。下のグラフはその比較を示し、エージェント作業の計算コストを抑える狙いを伝える。
別のグラフでは、Artificial Analysis Intelligence Index v5で26を記録し、西側オープンウェイトモデルの中で最高とする。中国のオープンウェイトモデルは総合で上回るが、Mistral Large 4はコードとサイバーセキュリティで強いと説明される。
公式デモはMistral APIを使うギャラリーが公開され、コード、ツール呼び出し、JSONスキーマ、多言語を扱う。画像内の対象を位置付きで特定する視覚グラウンディングの例も、同じギャラリーで試せる。デモ作成にはMistral Vibeが勧められ、コミュニティのSpaceもLe_chonkタグで集まる。
Mistral AIはリリースを支援したエコシステムへの感謝を載せ、vLLMやSGLang、transformers、llama.cppへの統合を進めた。
速度向上の条件とAPI代替
ローカル運用では、Mistral AIのモデルカードが推奨環境を示す一方で、代替も示している。Mistral AIは、ローカルでの提供が十分でない場合の代替としてを載せる。DSparkは目標モデルの出力を変えずにデコードを速めるとされ、実測で目標モデル単独より最大1.9倍のスループットを挙げた。公式はと記し、速度向上の幅には条件が付くと説明する。
For optimal performance, we recommend using the Mistral AI API if local serving is subpar.
最適な性能を得るには、ローカルでの提供が十分でない場合にMistral AI APIを使うことを勧める。
Actual gains depend on hardware and workload.
実際の効果はハードウェアとワークロードに依存する。
NVFP4量子化版はNVIDIAのBlackwell GPUを狙い、メモリ使用量を抑えつつ同じ性能と推論速度の向上を掲げる。自分の環境でどこまで速くなるかは、GPU構成、入力の長さ、同時に処理する依頼数で変わる。vLLMではメモリが足りない場合にmax-model-lenやmax-num-seqsを下げる案内がある。SGLangではDSpark有効時の同時実行数の例が64で、フラグを外すと48に戻る。
Mistral Vibeのローカル設定では、max_context_lengthを1048576に置き、自動圧縮の閾値を800000に置く例が載る。Mistral AIは公式デモで公開初週の1週間、訪問者ごとに小さな無料予算を設けている。2026年10月29日時点のモデルカードでは、ローカル運用の推奨としてvLLMが挙げられている。
出典
- mistralai/Mistral-Large-4-1T-A52B (image-text-to-text)（Hugging Face trending） · 議論