metadata

dataset_info:
  features:
    - name: text
      dtype: string
    - name: id
      dtype: string
    - name: date
      dtype: timestamp[s]
    - name: url
      dtype: string
    - name: dump
      dtype: string
    - name: score
      dtype:
        class_label:
          names:
            '0': '0'
            '1': '1'
            '2': '2'
            '3': '3'
            '4': '4'
            '5': '5'
  splits:
    - name: train
      num_bytes: 335143077.3406052
      num_examples: 282620
    - name: test
      num_bytes: 35575303.65939479
      num_examples: 30000
  download_size: 232706519
  dataset_size: 370718381
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: test
        path: data/test-*
license: odc-by
language:
  - ja

fineweb-2-edu-japanese-scores

fineweb-2日本語テキストの教育的スコアデータセット (0-4段階)

概要:

このデータセットは、FineWeb-Edu classifier の手法に倣い、Deepseek API を用いて、大規模ウェブデータセット fineweb-2 日本語テキストの教育的視点をスコアリングしたものです。

テキストの内容が教育的である度合いに応じて、0, 1, 2, 3, 4 の5段階でスコア付けされています。スコアが高いほど、教育的な内容を含むテキストであることを示します。

データセットは、学習用データセット (train) 約28万件と、評価用データセット (test) 約3万件で構成されています。

データセットの作成方法:

このデータセットは、以下の手順で作成されました。

データソース: fineweb-2 データセットの日本語テキストのうち、500文字以下のデータを抽出しました。
代表点サンプリング:
- 10万件ごとのデータに対し、static-embeddings-japanese を用いて、先頭64次元のベクトルに変換しました。
- ベクトル化したデータに対し、GPU 環境で cuML を使用して、クラスタ数が1万になるよう k-means++ クラスタリングを実施しました。
- 各クラスタの中心点に最も近いデータを代表点としてサンプリングしました。これで10万件ごとに1万件の代表点が選ばれます。
- 最終的に選ばれた代表点のデータ全てから、約31万件のデータをランダム抽出しました。
スコアリング:
- https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier で公開されている scorer.py と scorer_prompt.txt を利用しました。
- 2025年02月01日時点の DeepSeek-API (deepseek-chat) を用いて、LLM によりテキストのスコアリングを実施しました。
- FineWeb-Edu classifierは加点方式ですが、本データセットはスコアごとに詳細な指示を与え定義しています。これはDeepSeek-API (deepseek-chat) が加点方式より、スコアごとの詳細な指示の方が、私が確認した主観的な評価では、より良いスコアと思えたため、この方法でスコアリングを行いました。
- プロンプトの指示では、0, 1, 2, 3, 4, 5 の6段階スコアでの出力を指示していましたが、実際にスコア 5 が出力された件数が31万件中10件と非常に少なかったため、スコア 5 のデータはスコア 4 に変換してデータセットに含めています。

ライセンス:

このデータセットのライセンスは、元となった fineweb-2 と同じ、Open Data Commons Attribution License (ODC-By) v1.0 license に準拠します。

データセット作成に利用した CommonCrawl データについては、CommonCrawl's Terms of Use をご確認ください。

謝辞

このデータセット作成にあたり、FineWeb-Edu classifier および fineweb-2 の開発者の方々に深く感謝申し上げます。