---
dataset_info:
  features:
  - name: text
    dtype: string
  - name: id
    dtype: string
  - name: date
    dtype: timestamp[s]
  - name: url
    dtype: string
  - name: dump
    dtype: string
  - name: score
    dtype:
      class_label:
        names:
          '0': '0'
          '1': '1'
          '2': '2'
          '3': '3'
          '4': '4'
          '5': '5'
  splits:
  - name: train
    num_bytes: 335143077.3406052
    num_examples: 282620
  - name: test
    num_bytes: 35575303.65939479
    num_examples: 30000
  download_size: 232706519
  dataset_size: 370718381
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
  - split: test
    path: data/test-*
license: odc-by
language:
- ja
---

# fineweb-2-edu-japanese-scores


fineweb-2日本語テキストの教育的スコアデータセット (0-4段階)


**概要:**

このデータセットは、[FineWeb-Edu classifier](https://huggingface.co/HuggingFaceFW/fineweb-edu-classifier) の手法に倣い、Deepseek API を用いて、大規模ウェブデータセット [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2)  日本語テキストの教育的視点をスコアリングしたものです。

テキストの内容が教育的である度合いに応じて、0, 1, 2, 3, 4 の5段階でスコア付けされています。スコアが高いほど、教育的な内容を含むテキストであることを示します。

データセットは、学習用データセット (train) 約28万件と、評価用データセット (test) 約3万件で構成されています。

**データセットの作成方法:**

このデータセットは、以下の手順で作成されました。

1. **データソース**:  [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) データセットの日本語テキストのうち、500文字以下のデータを抽出しました。

2. **代表点サンプリング**:
    *  10万件ごとのデータに対し、[static-embeddings-japanese](https://huggingface.co/hotchpotch/static-embedding-japanese) を用いて、先頭64次元のベクトルに変換しました。
    *  ベクトル化したデータに対し、GPU 環境で [cuML](https://github.com/rapidsai/cuml) を使用して、クラスタ数が1万になるよう k-means++ クラスタリングを実施しました。
    *  各クラスタの中心点に最も近いデータを代表点としてサンプリングしました。これで10万件ごとに1万件の代表点が選ばれます。
    *  最終的に選ばれた代表点のデータ全てから、約31万件のデータをランダム抽出しました。

3. **スコアリング**:
    *  [https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier](https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier) で公開されている `scorer.py` と `scorer_prompt.txt` を利用しました。
    *  2025年02月01日時点の DeepSeek-API (deepseek-chat) を用いて、LLM によりテキストのスコアリングを実施しました。
    *  [FineWeb-Edu classifier](https://huggingface.co/HuggingFaceFW/fineweb-edu-classifier)は加点方式ですが、本データセットはスコアごとに詳細な指示を与え定義しています。これはDeepSeek-API (deepseek-chat) が加点方式より、スコアごとの詳細な指示の方が、私が確認した主観的な評価では、より良いスコアと思えたため、この方法でスコアリングを行いました。
    *  プロンプトの指示では、0, 1, 2, 3, 4, 5 の6段階スコアでの出力を指示していましたが、実際にスコア 5 が出力された件数が31万件中10件と非常に少なかったため、スコア 5 のデータはスコア 4 に変換してデータセットに含めています。

**ライセンス:**

このデータセットのライセンスは、元となった [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) と同じ、[Open Data Commons Attribution License (ODC-By) v1.0 license](https://opendatacommons.org/licenses/by/1-0/) に準拠します。

データセット作成に利用した CommonCrawl データについては、[CommonCrawl's Terms of Use](https://commoncrawl.org/terms-of-use) をご確認ください。

---
**謝辞**

このデータセット作成にあたり、[FineWeb-Edu classifier](https://huggingface.co/HuggingFaceFW/fineweb-edu-classifier) および [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) の開発者の方々に深く感謝申し上げます。