Accio-Labが長期エージェント向けコンパクトMOEモデルOccamy-1.0を公開
20秒でわかる内容解説
2026年9月18日、Accio-Labが長期ステートフルタスク特化のコンパクトMOEモデルOccamy-1.0をHugging Faceで公開した。総パラメータ35Bながらアクティブ3BのMixture-of-Expertsアーキテクチャを採用し、ローカル推論の実用性を追求している。
35B総パラメータのAgenticモデル設計
Accio-Labは2026年9月18日、長期ステートフルタスク特化のコンパクトMOEモデルOccamy-1.0をHugging Faceで公開した。総パラメータ35Bながらアクティブ3BのMixture-of-Expertsアーキテクチャ（複数の専門モデルから必要なものだけを選択して計算する仕組み）を採用し、ローカル推論の実用性を追求している。256あるエキスパートのうち8つと1つの共有エキスパートが同時に動作する。
これによりメモリ使用量を抑えられる。推論形式はGGUF、FP8、NVFP4が提供される。単一H200上でのBF16、FP8、NVFP4は、テキストやコード、JSON、ツール呼び出し、画像を含む9ケースのvLLM互換チェックをパスした。
ベースとなるQwen3.6-35B-A3Bの言語バックボーンを引き継ぎ、ビジョンエンコーダーとプロジェクターはSFT（教師あり追加学習）時に固定される。40層の構造を持ち、最大262,144トークンのコンテキスト長を扱える。SFTのシーケンス長は131,072トークンに設定され、長文脈の切れ目を防ぐ。
SGLangやvLLM（ローカル推論用フレームワーク）に対応し、8ウェイのテンソル並列化で高速推論が可能だ。実験的なMTP headも公開され、コミュニティによるApple Silicon対応のMLXビルドも提供されている。
| フォーマット | 提供先と特徴 |
|---|---|
| GGUF | Hugging Faceおよびコミュニティ |
| FP8 | 単一H200でvLLM互換チェックパス |
| NVFP4 | Marlin W4A16対応で低メモリ推論 |
| BF16 | 標準精度版で9ケースの互換検証完了 |
| MTP head | 実験的なマルチトークン予測用ヘッダ |
MarathonとSprintの二段階訓練経緯
訓練はMarathon ExpertとSprint Expertの二段階で行われる。Marathon ExpertはSFTとHDPO（確率条件付き差分最適化）を経て持続的な実行を学習する。Sprint ExpertはSFTのみで幅広いAgentic能力を保持する。
両者のパラメータ空間を均等にマージし、Single-Rollout Asynchronous Optimization（SAO）で統合ポリシーを微調整した。使用されたSFTデータは14,998本の軌跡で、平均長26.9Kトークン、合計403.3Mトークンに達する。
General agenticが204.1Mトークン、Long-horizon interactive agentsが88.4Mトークン、Terminal and software engineeringが43.1Mトークン、Tool-call groundingが67.7Mトークンで構成される。訓練タスクは実行可能環境に基づき、観測可能な状態遷移とタスクレベルの採点が行われる。
オープンソースのDressageスタックがマルチハネス実行とサンドボックス統合を提供する。Full-parameter SFT、HDPO、モデルマージ、SAOを経てモデルが完成する。
ベンチマーク結果と実用性の検証
Claw-Evalの平均スコアは82.20で、同サイズ群の他モデルを上回る。WildClawBenchでは49.16を記録し、大規模モデル群と同等の性能を示した。Business Arenaでは79,868ドルのシミュレーション収益を記録し、GDPvalでは1,128ポイントを得点した。
CommerceAgentBenchで37.38、VitaBenchで41.75を記録した。AutomationBenchのPass¹が27.60、BFCL v4が65.40となった。Terminal-Bench 2.1では59.00、Instruction followingのIFEvalでは91.53を記録した。
推論コストと性能の比較では、4つのCo-workベンチマークの正規化スコアとコストのグラフが示される。Occamy-1.0は低コスト領域のパレートフロンティアの膝付近に位置する。ベースモデルから推論コストをほぼ変えずに、集計能力を大幅に向上させた。
Benchmarkスコアはベンチマークごとにmin-max正規化され、コストは凍結価格プロトコルでマクロ平均化される。
ローカル環境への展開と今後の予定
日本での公開情報は資料に明記されていないが、ローカル環境での運用は十分可能である。GGUF形式（PC向け量子化形式）のQ4_K_MやQ8_0が提供され、コミュニティ開発によるApple Silicon対応の6bit MLXビルドも公開されている。SGLang 0.5.10以降やvLLM 0.19.0以降に対応し、8ウェイのテンソル並列化で最大262,144トークンのコンテキスト長を扱える。
OpenClaw、Hermes Agent、Accio Workなどのエージェントフレームワークとの統合実績がある。OpenAI互換APIを通じてマルチターン実行が可能で、推論結果のreasoning contentとtool callsを保持する必要がある。現在の実装では検索依存型およびシミュレートユーザータスクに改善余地が残る。
ネイティブブラウザやデスクトップの視覚相互作用は、現在のco-work訓練インターフェースに含まれていない。これらの機能は今後のDressageスタックの更新で補完される予定である。公式の技術レポートは2026年9月にarXivで公開された。
ライセンスはApache 2.0で商用利用が可能である。GitHubのIssueでフィードバックを受け付け、今後のバージョンアップに反映される。
用語の注釈
- SFT
- 事前学習済みモデルを教師ありデータで追加学習し、エージェント動作などの特定のタスクに適応させる技術である。（参考：【LLM入門】SFT（Supervised Fine-Tuning）とは？ 面接で ...）
出典
- Accio-Lab/occamy-1.0 (image-text-to-text)（Hugging Face trending） · 議論