Datasets:

hotchpotch
/

fineweb-2-edu-japanese-scores

Modalities:

Formats:

Languages:

Size:

Libraries:

License:

Dataset card Data Studio Files Files and versions Community

hotchpotch commited on Feb 11

Commit

fbf5c69

·

verified ·

1 Parent(s): a7d9365

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -71,7 +71,7 @@ fineweb-2日本語テキストの教育的スコアデータセット (0-4段階
 3. **スコアリング**:
     *  [https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier](https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier) で公開されている `scorer.py` と `scorer_prompt.txt` を利用しました。
     *  2025年02月01日時点の DeepSeek-API (deepseek-chat) を用いて、LLM によりテキストのスコアリングを実施しました。
-    *  FineWeb-Edu classifierは加点方式ですが、本データセットはスコアごとに詳細な指示を与え定義しています。これはDeepSeek-API (deepseek-chat) が加点方式より、スコアごとの詳細な指示の方が、私が確認した主観的な評価では、より良いスコアと思えたため、この方法でスコアリングを行いました。
     *  プロンプトの指示では、0, 1, 2, 3, 4, 5 の6段階スコアでの出力を指示していましたが、実際にスコア 5 が出力された件数が31万件中10件と非常に少なかったため、スコア 5 のデータはスコア 4 に変換してデータセットに含めています。
 **ライセンス:**

 3. **スコアリング**:
     *  [https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier](https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier) で公開されている `scorer.py` と `scorer_prompt.txt` を利用しました。
     *  2025年02月01日時点の DeepSeek-API (deepseek-chat) を用いて、LLM によりテキストのスコアリングを実施しました。
+    *  [FineWeb-Edu classifier](https://huggingface.co/HuggingFaceFW/fineweb-edu-classifier)は加点方式ですが、本データセットはスコアごとに詳細な指示を与え定義しています。これはDeepSeek-API (deepseek-chat) が加点方式より、スコアごとの詳細な指示の方が、私が確認した主観的な評価では、より良いスコアと思えたため、この方法でスコアリングを行いました。
     *  プロンプトの指示では、0, 1, 2, 3, 4, 5 の6段階スコアでの出力を指示していましたが、実際にスコア 5 が出力された件数が31万件中10件と非常に少なかったため、スコア 5 のデータはスコア 4 に変換してデータセットに含めています。
 **ライセンス:**