hotchpotch commited on
Commit
abcdcca
·
verified ·
1 Parent(s): 922b07b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +4 -0
README.md CHANGED
@@ -203,6 +203,10 @@ FineWeb2 の日本語には、Web特有のボイラープレートやノイズ
203
 
204
  なお、完璧にノイズは除去されているわけではなく、また場合によっては正しい部分もノイズとして取り除いている可能性があるため、ご注意ください。
205
 
 
 
 
 
206
  ## ライセンス
207
 
208
  このデータセットは元の FineWeb2 と同様の **Open Data Commons Attribution License (ODC-By) v1.0** [ライセンス](https://opendatacommons.org/licenses/by/1-0/)の下で公開されています。また、このデータセットの使用には[CommonCrawlの利用規約](https://commoncrawl.org/terms-of-use)も適用されます。
 
203
 
204
  なお、完璧にノイズは除去されているわけではなく、また場合によっては正しい部分もノイズとして取り除いている可能性があるため、ご注意ください。
205
 
206
+ ## 注意事項
207
+
208
+ このデータセットFineWeb2 Edu Japanese と、FineWeb2(Eduでフィルタリングしていない)データセットでの、タスクによる比較は行なっていません。そのため、実際のLLM学習で、どれほどの差が出るかは不明瞭です。
209
+
210
  ## ライセンス
211
 
212
  このデータセットは元の FineWeb2 と同様の **Open Data Commons Attribution License (ODC-By) v1.0** [ライセンス](https://opendatacommons.org/licenses/by/1-0/)の下で公開されています。また、このデータセットの使用には[CommonCrawlの利用規約](https://commoncrawl.org/terms-of-use)も適用されます。