Datasets:

hotchpotch
/

fineweb-2-edu-japanese

Modalities:

Formats:

Languages:

Size:

Libraries:

License:

Dataset card Data Studio Files Files and versions Community

hotchpotch commited on Feb 20

Commit

89aa466

·

verified ·

1 Parent(s): 894ea61

Update README.md

Files changed (1) hide show

README.md +2 -2

README.md CHANGED Viewed

@@ -154,9 +154,9 @@ FineWeb2 の日本語には、Web特有のボイラープレートやノイズ
 [NOISE]前のページ[/NOISE]  [NOISE]次のページ[/NOISE]
 ```
-`small_tokens_cleaned` は、`small_tokens` のデータから、さらに `fineweb-2-japanese-text-cleaned` を使ってノイズを取り除いたデータが入っています。なお、ノイズ部分を判定した生データはfineweb-2-edu-japanese-noise-detect-rawにあります。
-また、完璧にノイズは除去されておらず、また場合によっては正しい部分もノイズとして取り除いている可能性があるため、ご注意ください。
 ## ライセンス

 [NOISE]前のページ[/NOISE]  [NOISE]次のページ[/NOISE]
 ```
+`small_tokens_cleaned` は、`small_tokens` のデータから、さらに `fineweb-2-japanese-text-cleaned` を使ってノイズを取り除いたデータが入っています。なお、ノイズ部分を判定した生データは[fineweb-2-edu-japanese-noise-detect-raw](https://huggingface.co/datasets/hotchpotch/fineweb-2-edu-japanese-noise-detect-raw)にあります。
+なお、完璧にノイズは除去されているわけではなく、また場合によっては正しい部分もノイズとして取り除いている可能性があるため、ご注意ください。
 ## ライセンス