Datasets:
Dataset Viewer (First 5GB)
The dataset viewer is not available for this split.
Rows from parquet row groups are too big to be read: 448.24 MiB (max=286.10 MiB)
Error code: TooBigContentError
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
CommonCrawl Japanese (Filtered PPI) Dataset
本データセットは、CommonCrawlより抽出した約100億（10B）トークン規模の日本語テキストデータから、特に配慮が必要な「要配慮個人情報」をフィルタリング処理したものです。
データセットの概要
- 元データソース: CommonCrawl（https://commoncrawl.org/）
- トークン数: 約10Bトークン
- 言語: 日本語
- 処理内容: 要配慮個人情報をルールベースおよび機械学習分類器を用いてフィルタリング
フィルタリングには以下のコードを使用しております。
https://github.com/matsuolab/jp-llm-corpus-pii-filter/
注意事項
本データセットは、非常に大規模なテキストから自動的に要配慮個人情報を除去したものであり、完全な排除を保証するものではありません。そのため、二次的な活用に際しては、目的に応じた適切な管理・配慮が必要です。
ライセンス
本データセットはCommonCrawl由来のデータを基にしています。元データに準じてCCライセンス（詳細は元データソースを参照）での提供となります。
その他詳細は以下をご確認ください。
https://www.jdla.org/about/lawtechcommitee/
- Downloads last month
- 218