DeepSeek-R1-Distill-Qwen-32B-Japanese-AWQ

cyberagent/DeepSeek-R1-Distill-Qwen-32B-JapaneseのAWQ量子化版です。
Calibrationデータを自作して作成しました。

詳細についてはbaseモデルを情報をご参照頂ければ幸いです。

Downloads last month
1
Safetensors
Model size
32.8B params
Tensor type
I32
·
F16
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for nishihara-ATD/DeepSeek-R1-Distill-Qwen-32B-Japanese-AWQ