neody/sarashina2.2-3b-instruct-v0.1-awq

概要

vllm/sglangで効率よく使用することができます。

AWQ作成のデータセットには、neody/imatrix_datasetを使用しました。