Go純正ローカル推論ライブラリdlgoがマルチモーダルと決定論APIを搭載して公開
20秒でわかる内容解説
開発者computerexが純粋なGo言語で実装した深層学習推論ライブラリdlgoを2026年10月14日に公開した。PythonやCUDAを必要とせず、GGUF形式のモデルをCPUやGPUでローカル実行できる。ローカルPCで言語モデルや画像生成パイプラインを動かす技術者に、新たな選択肢を提供する。
Go言語のみで駆動するローカル推論環境
本ライブラリはGo 1.21以上で動作し、外部ランタイムを介さずに推論を行う。GGUF形式のモデルファイルを直接読み込み、量子化された重みをCPUのSIMD命令やVulkanのGPUシェーダーで処理する。CLIコマンドでチャットセッションを開始でき、Ollama互換のWebインターフェースとOpenAI互換のAPIエンドポイントも同時に起動する。
言語推論に加え、ビジョンモデルとテキスト画像生成パイプラインも内蔵する。画像認識にはmmprojプロジェクターを、画像生成にはZ-ImageやLumina2対応のDiTモデルをローカルで実行する。Vulkanバックエンドは量子化MatVecシェーダーと融合アテンションをサポートし、VRAM不足時にはCPUへ自動フォールバックする。
MoEモデルやMLA圧縮KVキャッシュにも対応し、25種類以上の量子化形式を処理できる。Hugging FaceのUnslothカタログからモデルを自動ダウンロードする機能も実装済みで、直接のURL指定やローカルパスの指定も可能である。
ベンチマーク結果とSystem One APIの仕組み
2026年10月14日の公開時点で、主要なアーキテクチャと量子化形式に対応している。NVIDIA RTX 4070 Ti SUPER上でのベンチマークでは、Qwen3.5 0.8BのQ8_0量子化モデルで287 tok/sを記録し、OllamaのCUDAバージョンより15％速い。CPU単体ではTinyLlama 1.1Bで423 tok/sを達成し、Ollamaの2倍近い速度を示した。
決定論的な推論を可能にするSystem One APIを搭載し、選択、二値判定、順序評価に対応する。Qwen3.5 9Bの学習済みヘッドでは、32件の評価セットで93.8％の精度を達成した。これはクラウド版のJev 1.13と同等の性能だが、ネットワーク遅延を含まないローカル環境での測定値である。
System Oneの訓練にはCPUとGPUの両方から特徴量を抽出し、統合して単一のJSONアーティファクトを作成する。
Fast LLM inference in pure Go. Run GGUF models locally on CPU or GPU — no Python, CUDA, or external inference runtime required.
純粋なGo言語による高速LLM推論。PythonやCUDA、外部ランタイムを必要とせずにCPUまたはGPUでGGUFモデルをローカル実行可能。
| 項目 | 値 |
|---|---|
| 対応バックボーン | Qwen3.5 9B |
| 量子化形式 | Q3_K_M |
| 評価セット件数 | 32 |
| GPUテスト精度 | 93.65% |
| CPUテスト精度 | 93.51% |
コミュニティの評価と実装上の制約
ハッカーニュースなどの技術コミュニティでは、機能セットの充実度が高いと評価されている。特にSystem Oneによる確定的な判断機能は、業務フローへの組み込みを想定した設計として注目された。一方でGPU推論の実装にはCGoを介しているため、純粋なGoバイナリとして配布できる他の選択肢と比較すると、ビルド環境の制約が残る。
この点から、C言語のバインディングを回避しやすいyzmaを好む開発者も存在する。System Oneヘッドの正確性は評価済み分布に限定されており、異なるドメインで使用する場合は別途検証と較正が必要である。また、画像生成パイプラインはZ-ImageやLumina2のDiTチェックポイントに最適化されており、従来のStable Diffusionモデルとの互換性は保証されていない。
今後のモデル拡張とリポジトリ更新
2026年10月14日にGitHubで公開されたdlgoは、MITライセンスで提供されCLIとWeb UIを標準搭載する。Hugging FaceからUnsloth版のQwen3.5モデルを自動ダウンロードするカタログ機能も実装済みである。System Oneの訓練スクリプトはWindows PowerShellとPythonスクリプトで提供され、今後のモデル拡張に合わせてアーティファクトのバージョンアップが予定されている。
ローカル推論の需要が高まる中、Go言語エコシステムに統合されたマルチモーダル環境は、インフラ構築の選択肢を広げる。次世代の量子化形式やモデルアーキテクチャへの対応は、リポジトリの更新履歴で追跡できる。
用語の注釈
- GGUF
- llama.cppで使用されるモデルファイル形式であり、量子化によりメモリ使用量を削減してローカルでの高速推論を可能にする。（参考：GGUF量子化ってなんだ？〜ローカルLLMを爆速で動かすための ...）
- DiT
- 拡散モデルの画像生成に用いられるTransformerベースのネットワークアーキテクチャであり、従来のU-Netに代わる設計を採用している。（参考：DiT（Diffusion Transformer）を徹底解説 — 拡散モデルのU-Net ...）