MiniMaxが公開したマルチモーダルMoEモデルM3.1-Flashの仕様とローカル推論設定
25秒でわかる内容解説
中国のAI企業MiniMaxAIが2026年10月23日、コード生成とエージェントワークフロー向けのマルチモーダルMoEモデル「MiniMax-M3.1-Flash」をHugging Faceに公開した。総パラメータ約428Bだが1トークンあたり23Bのみ動作する設計だ。テキスト・画像・動画を入力可能で最大100万トークンのコンテキストウィンドウをサポートする。GPUメモリと推論構成次第でPC環境でも実用的な動作が期待できる。
428B総パラメータのMoEアーキテクチャとマルチモーダル対応
M3.1-Flashはコード生成やエージェントワークフロー、コンピュータ操作、サイバーセキュリティを主眼に設計されたモデルである。アーキテクチャはネイティブなマルチモーダルMixture-of-Expertsを採用している。総パラメータ数は約428Bだが、1トークン生成ごとにアクティブになるパラメータは23Bに抑えられている。これによりメモリ使用量を抑えつつ、大規模モデル並みの知識容量を維持する仕組みだ。
入力形式はテキスト、画像、動画に対応し、テキストを出力するimage-text-to-textパイプラインとして提供される。コンテキストウィンドウの最大長は100万トークンに達する。実用上の処理可能な長さは搭載GPUのVRAM容量と推論フレームワークの設定に左右される。
推論効率の向上には3つの技術が組み込まれている。モデル全体にスパースアテンションを適用し、最初の3層のフルアテンションを置き換えた。量子化-awareトレーニングによりルーティングされるMoEエクスパートとアテンションパスのメモリフットプリントを縮小した。
さらにDSparkというspeculative decoding(推論を加速する疑似トークン生成手法)を採用し、推論速度の向上を図っている。公式重みはminimax-communityライセンスで配布され、ローカル環境へのダウンロードはhf downloadコマンドで実行できる。
前世代M3からの改良点とベンチマーク成績
本モデルは既存のMiniMax-M3を基盤に、推論性能と効率を強化してリリースされた。前世代と比較して主要な変更点は3つに集約される。一つはモデル全体へのSparse Attentionの適用だ。従来のFull Attentionだった初期レイヤーをSparse Attentionに切り替えることで、長期コンテキスト処理時の計算負荷を軽減している。
二つ目はQuantization-aware trainingの実装である。MoEのエクスパート選択ルーティングとアテンション計算パスを学習段階から量子化を意識させることで、推論時のメモリ帯域幅ボトルネックを緩和した。三つ目は推論アルゴリズムの変更で、EAGLEに似たMTP(Multi-Token Prediction)方式に代わり、DSpark推論を導入した。これによりトークン生成のレイテンシが短縮される。
ベンチマーク成績はエージェントタスク、コーディング、セキュリティ分野で高い数値を記録した。BankerToolBenchで76.2、DeepSWE v1.1で73.7、OSWorld 2.0で61.7、CyberGymで82.2を達成している。これらのスコアは公式重みで測定された値であり、サードパーティ製の量子化モデルでは成績が変動する可能性がある 。
Results are for the official weights; third-party quantizations may differ.
成績は公式重みで測定された値であり、サードパーティ製の量子化モデルでは成績が変動する可能性がある。
ローカル推論対応フレームワークと推奨設定
ローカル環境での動作には複数の推論フレームワークが推奨されている 。SGLangやvLLM、TokenSpeedのレシピが公式に公開され、ドキュメント付きで動作確認が可能だ。追加の統合パッケージとしてTransformers、KTransformers、unsloth、ATOMの開発も進行中である。マルチチップ構成での分散推論にはFlagOSが対応する。
| 項目 | 推奨値 |
|---|---|
| 推論フレームワーク | SGLang, vLLM, TokenSpeed |
| サンプリング設定 | temperature=1.0, top_p=0.95 |
| コンテキスト上限 | 1,000,000トークン |
推論時のサンプリング設定はtemperatureを1.0、top_pを0.95に推奨する。思考力を高めるreasoning_effortパラメータはlowからmaxまでの5段階で調整できる。コンテキストウィンドウの上限は100万トークンだが、実際のスループットと利用可能な長さはGPUメモリとフレームワークの構成に依存する。
ユーザーは公式ページのGitHubリンクからモデルファイルをローカルディレクトリに保存できる。推論構成を最適化すれば、エージェントワークフローや長文ドキュメントの解析、マルチモーダルな視覚タスクを単一のPCで実行できる見込みだ。
推論フレームワークの統合予定と実用化の条件
現在進行形のローカル環境向け開発として、TransformersやKTransformers、unsloth、ATOMとの統合が予定されている。これらが完成すれば、既存のPythonエコシステムや微調整パイプラインへの組み込みが容易になる。FlagOSを用いたマルチチップ推論もダウンロードページで公開され、複数GPU環境でのスケーリングに対応する。
実用上のコンテキスト長と推論スループットは、利用者のGPUメモリ容量と推論構成に依存する。また、公式重み以外のサードパーティ製量子化モデルのベンチマーク成績は未確定である。今後、各種フレームワークのレシピが更新されるにつれて、メモリ使用量と生成速度のバランスが明確になる。
2026年10月23日の公開以降、Hugging FaceやGitHub上で推論設定の共有が進んでいる。ローカルAI愛好家は推奨フレームワークのバージョンアップを追跡し、最適なコンテキスト長とメモリ設定を模索する段階にある。
出典
- MiniMaxAI/MiniMax-M3.1-Flash (image-text-to-text)(Hugging Face trending) · 議論