DeepSeek-V4.1-Flash-1017の拒否挙動を解除したFP8版モデルが公開された
30秒でわかる内容解説
2026年10月18日、@dealignaiがDeepSeek-V4.1-Flash-1017の拒否行動を重みレベルで除去したUNCENSORED版を公開した。元のマルチモーダル機能や100万トークンのコンテキスト長を維持しつつ、ネイティブFP8形式で配布されている。ローカル環境で動作する技術者向けに、ハードウェア要件やベンチマーク結果、量子化の注意点などが明記されている。自作PCやワークステーションで最新モデルを動かす際の参考になる。
重み編集で拒否を除去した純粋なFP8チェックポイント
本モデルはベース版から拒否行動を除去し、ユーザーの指示に対して様々なトピックで応答するよう調整された。変更はJinjaテンプレートやシステムプロンプトの書き換えではなく、重みそのものを編集するアブリレーションと呼ばれる手法で行われた。これにより、LoRAアダプターやランタイムフックを必要とせず、元々の推論エンジンにそのまま読み込める。
データ形式はネイティブFP8のe4m3とFP4のMoEエキスパートで構成され、DeepSeek公式が配布する形式とバイト互換である。マルチモーダル機能や100万トークンのコンテキスト長、ツール呼び出し、推論の強度調整機能もすべて維持されている。写真ではdealignaiが公開したモデルの公式マスコット画像。
写真ではマスコットキャラクターが描かれている。トークンizerもベース版と同一で、ボキャブラリの変更やビットパック処理による精度低下もない。Q8やQ4への中間変換を経ない純粋なFP8チェックポイントであるため、元の推論パイプラインをそのまま利用でき、重みそのものがモデルである。
ベンチマーク結果と動作検証環境の仕様
ベンチマークではMMLUでベースの87.63％に対し83.77％（-3.86pp）とやや低下した。STEM分野は2.37pp、社会科学分野は2.92ppの低下にとどまった。一方でHarmBench-320では100％の準拠率を記録し、化学・サイバー犯罪・著作権などの320項目すべてで拒否なしで回答した。
| 項目 | 値 |
|---|---|
| MMLU | 83.77％ |
| HarmBench-320 | 100％ |
| 動作検証環境 | 4×H200 (TP4) |
動作検証は4枚のH200（TP4）で実施され、H100やB200、B300でも動作が期待される。ただし非FP8対応のGPUでは公式の推論エンジンがサポート外である。低ビット量子化を行う場合は、これらのFP8重みから直接変換するよりも、ターゲット精度でアブリレーションパイプラインを再実行するほうが品質が高い。
環境構築にはCUDA 12.8とtorch cu128が必要であり、カーネルのJITコンパイル時にue8m0のrace fixとしてnum_stagesを2に設定する必要がある。
技術詳細の公開とSGLang対応の仕様
公開直後はHugging Faceのコメント欄が空欄であるが、モデルカードには技術的な詳細が丁寧に記されている。再配布や量子化、ファインチューニングを行う際はリポジトリ名へのクレジットを求めている。推論時のサンプリングパラメータは温度1.0、top_p 1.0、最大トークン数256K以上が推奨される。
システムプロンプトなしでもクリーンに動作し、独自のencodingモジュールでマルチターン対話やツール呼び出しを処理する。4枚のH200環境ではTensor Parallel 4で動作検証され、SGLangを用いる場合は--reasoning-parserや--tool-call-parserにdeepseekv41を指定する必要がある。
If you build on this release, a credit is appreciated — a line crediting dealignai with a link back to this repo in your model card or write-up.
このリリースを基にビルドする際はクレジットを感謝される。モデルカードや記事にdealignaiへのリンクを記載すること。
メモリ管理では203GBのengramテーブルをホストRAMに移動するフラグも用意されている。MITライセンスで提供され、18歳以上を対象に手動ゲートアクセス制を採用している。
未確定点とローカル環境での展開見通し
今後の展開では非FP8対応ハードウェアでの動作確実性と、低ビット量子化時のコンプライアンス回帰傾向が未確定点として残る。公式のinferenceエンジンやencodingモジュールはMITライセンスで公開されており、コミュニティによる拡張が期待される。
SGLangのServing用起動フラグや変数設定は上位プロジェクトで詳細が示されている。--context-length 1048576と--mem-fraction-static 0.80を指定すれば1Mコンテキスト長を満たせる。
FP8対応GPUが普及すれば、より多くのローカル環境で100万トークン長とマルチモーダル機能を同時に利用できるようになる。2026年10月18日に公開されたモデルカードには、実装時の設定値が網羅的に記載されている。
出典
- dealignai/DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8 (image-text-to-text)（Hugging Face trending） · 議論