|
|
---
|
|
|
language:
|
|
|
- en
|
|
|
tags:
|
|
|
- text
|
|
|
- reasoning
|
|
|
license: "mit"
|
|
|
task_categories:
|
|
|
- question-answering
|
|
|
size_categories:
|
|
|
- n<1K
|
|
|
---
|
|
|
元データ: https://huggingface.co/datasets/HangHor/FinQA_CoT_Small
|
|
|
|
|
|
使用したコード: https://github.com/LLMTeamAkiyama/0-data_prepare/tree/master/src/FinQA_CoT_Small
|
|
|
|
|
|
- データ件数: 309
|
|
|
- 平均トークン数: 1,036
|
|
|
- 最大トークン数: 2,787
|
|
|
- 合計トークン数: 320,198
|
|
|
- ファイル形式: JSONL
|
|
|
- ファイル分割数: 1
|
|
|
- 合計ファイルサイズ: 1.3 MB
|
|
|
|
|
|
加工内容：
|
|
|
|
|
|
### 1. データセットの準備と初期設定
|
|
|
* **データソース**: Hugging Face Hub上の `HangHor/FinQA_CoT_Small` データセットを読み込んでいます。
|
|
|
* **トークナイザー**: トークン数の計算には `deepseek-ai/DeepSeek-R1-Distill-Qwen-32B` モデルのトークナイザーが使用されています。
|
|
|
* **列の役割設定**: 元のデータセットの `Question`、`Context`、`Answer` 列が、それぞれ「質問」「思考（コンテキスト）」「回答」として扱われるように設定されています。
|
|
|
|
|
|
### 2. 前処理とクレンジング
|
|
|
一連のクレンジング処理が順番に適用されています。
|
|
|
1. **IDの付与**: 元のデータの各行に、後から参照できるよう一意のID（`base_datasets_id`）が割り当てられました。
|
|
|
2. **列名の標準化**: `Context`列が`thought`列に、`Question`列が`question`列に、`Answer`列が`answer`列にそれぞれリネームされ、データ構造が統一されました。
|
|
|
3. **空白文字の除去**: `thought`列に含まれるテキストの先頭と末尾にある不要な空白文字（改行コードやスペースなど）が削除されました。
|
|
|
4. **繰り返し表現のチェック**: `thought`列のテキスト内で、類似した文章が何度も繰り返されていないかがJaccard類似度を用いてチェックされました（このデータセットでは、この処理によって除外されたデータはありませんでした）。
|
|
|
|
|
|
### 3. トークン数の計算
|
|
|
* 「質問」「思考」「回答」の各列について、指定されたトークナイザーを用いてトークン数が計算され、`question_token`, `thought_token`, `answer_token` という新しい列に追加されました。
|
|
|
* 各行の合計トークン数が `total_token` 列として算出されました。
|
|
|
|
|
|
### 4. 最終フィルタリングと出力準備
|
|
|
最終的に出力するデータセットを作成するため、以下の条件でフィルタリングが実施されました。
|
|
|
* 質問 (`question`) が空やハイフン("-")ではないこと。
|
|
|
* 合計トークン数 (`total_token`) が50以上、32,000以下であること。
|
|
|
* 回答のトークン数 (`answer_token`) が0ではなく、2,000以下であること。
|
|
|
|
|
|
|
