Update README.md
Browse files
README.md
CHANGED
|
@@ -203,6 +203,10 @@ FineWeb2 の日本語には、Web特有のボイラープレートやノイズ
|
|
| 203 |
|
| 204 |
なお、完璧にノイズは除去されているわけではなく、また場合によっては正しい部分もノイズとして取り除いている可能性があるため、ご注意ください。
|
| 205 |
|
|
|
|
|
|
|
|
|
|
|
|
|
| 206 |
## ライセンス
|
| 207 |
|
| 208 |
このデータセットは元の FineWeb2 と同様の **Open Data Commons Attribution License (ODC-By) v1.0** [ライセンス](https://opendatacommons.org/licenses/by/1-0/)の下で公開されています。また、このデータセットの使用には[CommonCrawlの利用規約](https://commoncrawl.org/terms-of-use)も適用されます。
|
|
|
|
| 203 |
|
| 204 |
なお、完璧にノイズは除去されているわけではなく、また場合によっては正しい部分もノイズとして取り除いている可能性があるため、ご注意ください。
|
| 205 |
|
| 206 |
+
## 注意事項
|
| 207 |
+
|
| 208 |
+
このデータセットFineWeb2 Edu Japanese と、FineWeb2(Eduでフィルタリングしていない)データセットでの、タスクによる比較は行なっていません。そのため、実際のLLM学習で、どれほどの差が出るかは不明瞭です。
|
| 209 |
+
|
| 210 |
## ライセンス
|
| 211 |
|
| 212 |
このデータセットは元の FineWeb2 と同様の **Open Data Commons Attribution License (ODC-By) v1.0** [ライセンス](https://opendatacommons.org/licenses/by/1-0/)の下で公開されています。また、このデータセットの使用には[CommonCrawlの利用規約](https://commoncrawl.org/terms-of-use)も適用されます。
|