File size: 4,626 Bytes
84d1548 451a47a 84d1548 451a47a 84d1548 dcad361 7bf4ff1 dcad361 1df3457 dcad361 1df3457 dcad361 1df3457 dcad361 1df3457 dcad361 985a9cb dcad361 1df3457 4ea88a3 4d68095 1df3457 fbf5c69 1df3457 4d68095 1df3457 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 |
---
dataset_info:
features:
- name: text
dtype: string
- name: id
dtype: string
- name: date
dtype: timestamp[s]
- name: url
dtype: string
- name: dump
dtype: string
- name: score
dtype:
class_label:
names:
'0': '0'
'1': '1'
'2': '2'
'3': '3'
'4': '4'
'5': '5'
splits:
- name: train
num_bytes: 335143077.3406052
num_examples: 282620
- name: test
num_bytes: 35575303.65939479
num_examples: 30000
download_size: 232706519
dataset_size: 370718381
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
license: odc-by
language:
- ja
---
# fineweb-2-edu-japanese-scores
fineweb-2日本語テキストの教育的スコアデータセット (0-4段階)
**概要:**
このデータセットは、[FineWeb-Edu classifier](https://huggingface.co/HuggingFaceFW/fineweb-edu-classifier) の手法に倣い、Deepseek API を用いて、大規模ウェブデータセット [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) 日本語テキストの教育的視点をスコアリングしたものです。
テキストの内容が教育的である度合いに応じて、0, 1, 2, 3, 4 の5段階でスコア付けされています。スコアが高いほど、教育的な内容を含むテキストであることを示します。
データセットは、学習用データセット (train) 約28万件と、評価用データセット (test) 約3万件で構成されています。
**データセットの作成方法:**
このデータセットは、以下の手順で作成されました。
1. **データソース**: [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) データセットの日本語テキストのうち、500文字以下のデータを抽出しました。
2. **代表点サンプリング**:
* 10万件ごとのデータに対し、[static-embeddings-japanese](https://huggingface.co/hotchpotch/static-embedding-japanese) を用いて、先頭64次元のベクトルに変換しました。
* ベクトル化したデータに対し、GPU 環境で [cuML](https://github.com/rapidsai/cuml) を使用して、クラスタ数が1万になるよう k-means++ クラスタリングを実施しました。
* 各クラスタの中心点に最も近いデータを代表点としてサンプリングしました。これで10万件ごとに1万件の代表点が選ばれます。
* 最終的に選ばれた代表点のデータ全てから、約31万件のデータをランダム抽出しました。
3. **スコアリング**:
* [https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier](https://github.com/hotchpotch/fineweb-2-edu-japanese-classifier) で公開されている `scorer.py` と `scorer_prompt.txt` を利用しました。
* 2025年02月01日時点の DeepSeek-API (deepseek-chat) を用いて、LLM によりテキストのスコアリングを実施しました。
* [FineWeb-Edu classifier](https://huggingface.co/HuggingFaceFW/fineweb-edu-classifier)は加点方式ですが、本データセットはスコアごとに詳細な指示を与え定義しています。これはDeepSeek-API (deepseek-chat) が加点方式より、スコアごとの詳細な指示の方が、私が確認した主観的な評価では、より良いスコアと思えたため、この方法でスコアリングを行いました。
* プロンプトの指示では、0, 1, 2, 3, 4, 5 の6段階スコアでの出力を指示していましたが、実際にスコア 5 が出力された件数が31万件中10件と非常に少なかったため、スコア 5 のデータはスコア 4 に変換してデータセットに含めています。
**ライセンス:**
このデータセットのライセンスは、元となった [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) と同じ、[Open Data Commons Attribution License (ODC-By) v1.0 license](https://opendatacommons.org/licenses/by/1-0/) に準拠します。
データセット作成に利用した CommonCrawl データについては、[CommonCrawl's Terms of Use](https://commoncrawl.org/terms-of-use) をご確認ください。
---
**謝辞**
このデータセット作成にあたり、[FineWeb-Edu classifier](https://huggingface.co/HuggingFaceFW/fineweb-edu-classifier) および [fineweb-2](https://huggingface.co/datasets/HuggingFaceFW/fineweb-2) の開発者の方々に深く感謝申し上げます。 |