Qwen3.8-27BベースのuncensoredモデルHuihui-Qwen3.8-27B-abliteratedが公開
30秒でわかる内容解説
2026年9月18日、huihui-aiがQwen3.8-27Bをベースに拒否フィルターを除去したuncensoredモデルHuihui-Qwen3.8-27B-abliteratedをHugging Faceで公開した。特定の層のみを処理するabliteration技術を採用し、ローカル推論向けのGGUF形式やOllama対応で提供されている。PC環境で自由な出力を得たい技術者向けに、カスタム量子化とコマンドライン実行手順が整備されている。
特徴と量子化仕様
本モデルはQwen3.8-27Bの出力制限を弱め、uncensored（安全フィルターや拒否機能が弱められ、自由な出力を行うモデルの状態）な振る舞いを可能にした。abliteration（特定の層の重みを処理して拒否応答を除去する手法）という手法を用い、層番号23から51の重みのみを処理対象にしている。それ以外の層は元の状態を維持するため、基本性能が損なわれにくい。
画像認識やマルチターン対話機能であるMTPと視覚モジュールも改変されていない。
応答品質を高めるため、独自のquantization（モデルの重みの精度を下げてファイルサイズを削減する技術）処理が施されている。token_embdやoutputといった主要な重み部分を、Q2_KからQ6_Kの量子化バージョンではQ8_0へ、Q8_0バージョンではBF16へ変換している。この非標準的な処理により、ファイル名はK_LやQ8_0_Lに変わる。
量子化方法が特殊なため、ファイルサイズに想定外の差異が生じる場合がある。Q2_K_LがQ3_KやQ4_Kよりも大きくなる現象が確認されている。GGUF（llama.cppやOllama向けに最適化されたモデルファイル）形式への最適化により、低スペックPCでも高速に動作する。ライブラリ名はtransformersで、ライセンスはApache-2.0だ。
技術的背景と派生シリーズ
abliterationはTransformerLensを使わずに拒否応答を除去するcrudeな実装として開発された。remove-refusals-with-transformersリポジトリの手法を応用している。huihui-aiは複数の派生シリーズを公開しており、GSQ-RCOやUD-DW、UDシリーズが存在する。
UDシリーズでは処理対象の層が18から51に拡張された。初期バージョンでは最初の15層を保持していたが、今回の変更でより広い範囲をabliterationした。各シリーズはベースとなる元GGUFファイルが異なり、変換後のサイズが元のファイルと異なる可能性がある。
安全フィルターが大幅に低下しているため、敏感な話題や論争的な内容、不適切な出力を生成するリスクが高い。
This model’s safety filtering has been significantly reduced, potentially generating sensitive, controversial, or inappropriate content.
安全フィルターが大幅に低下しており、敏感な話題や論争的な内容、不適切な出力を生成する可能性がある。
コミュニティ反応と実行コマンド
Hugging Faceのページには現時点でコメント投稿がない。技術者向けにOllamaとllama.cppの最新版への対応が明記されている。Ollamaを使えばコマンドラインから直接モデルを呼び出せる。
ollama run huihui_ai/Qwen3.8-abliterated
llama.cppを利用する場合は、quantizationされたGGUFファイルを指定して推論を実行する。最大コンテキスト長は262144に設定可能だ。
llama-cli -m huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF/Huihui-Qwen3.8-27B-abliterated-Q4_K.gguf -c 262144
開発者はコーヒー一杯程度の寄付で継続開発を呼びかけている。ビットコインアドレスとKo-fiページが公開されている。一部バージョンでは小さな免責警告が表示される可能性がある。ユーザーは生成内容の確認とローカル法則の遵守が求められる。huihui.aiはデフォルトの安全保証を付けないため、商用や公共用途での直接利用は推奨されていない。
日本での提供状況と今後の選定基準
日本国内での発売や定額制提供はまだ報告されていない。ローカル環境で動作させるには、Ollamaまたはllama.cppの最新リリースをインストールする必要がある。
一部バージョンでは小さな免責警告が表示される可能性がある。変換後のファイルサイズが元のGGUFと異なる点も、環境構築時に確認すべき事項だ。
公開日は2026年9月18日であり、現在も複数の量子化バージョンが更新されている。UD-DWシリーズはunslothの元GGUFから派生している。GSQ-RCOシリーズはISTA-DASLabのファイルをベースにしている。各シリーズのファイル構成は異なるため、ダウンロード前にベースモデルを確認する必要がある。
Ollamaのコミュニティリポジトリにはhuihui_ai/Qwen3.8-abliteratedとして登録されている。llama.cppのリポジトリはggml-org/llama.cppが最新バージョンを提供している。技術者は自身のGPUメモリ容量と照らし合わせ、適切なQ4_KからQ8_0のファイルを選定する必要がある。
用語の注釈
- GGUF
- llama.cppやOllama向けに最適化されたモデルファイル形式。量子化により低スペックPCでも高速に動作する。（参考：GGUF量子化ってなんだ？〜ローカルLLMを爆速で動かすための ...）
- quantization
- モデルの重みの精度を下げてファイルサイズやメモリ使用量を削減する技術である。（参考：ローカル実行の常識！ LLM 量子化 ( Quantization ) の仕組みと ...）
- uncensored
- 修正やフィルターがかかっておらず、制限なく出力される状態である。（参考：ノーカット 無修正エロ動画 | xHamster）
出典
- huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF (image-text-to-text)（Hugging Face trending） · 議論