Holy-fox commited on
Commit
a59e458
·
verified ·
1 Parent(s): 98297a9

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +97 -3
README.md CHANGED
@@ -1,3 +1,97 @@
1
- ---
2
- license: cc-by-2.0
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: cc-by-nc-sa-4.0
3
+ language:
4
+ - ja
5
+ ---
6
+
7
+ # ichikara-instruction-003-sharegpt Dataset by DataPilot
8
+
9
+ ## データセット概要 (Dataset Summary)
10
+
11
+ このデータセットは、[kinokokoro/ichikara-instruction-003](https://huggingface.co/datasets/kinokokoro/ichikara-instruction-003) で公開されている日本語インストラクションデータを、広く利用されている **ShareGPT形式** に変換したものです。変換および公開は **DataPilot** が行いました。
12
+
13
+ 元データセットは、様々な質問に対して人間が作成した回答が含まれており、日本語の大規模言語モデル(LLM)のファインチューニングに有用です。このShareGPT形式版は、特に会話形式のデータ入力を想定したモデルの学習に適しています。
14
+
15
+ **注意:** 元データセットには、1つの質問に対して複数の回答が存在する場合があります。このShareGPT形式データセットでは、各「質問と回答のペア」を独立した一つの会話データとして扱っています。
16
+
17
+ ## データ形式 (Data Format)
18
+
19
+ データはJSON Lines形式で提供され、各行が一つの会話データ(ShareGPT形式)を表します。リスト全体が単一のJSON配列として構成されています。
20
+
21
+ 各会話データは以下の構造を持ちます。
22
+
23
+ ```json
24
+ {
25
+ "conversations": [
26
+ {
27
+ "from": "human",
28
+ "value": "[ユーザーからの指示や質問 (元データの 'text' に相当)]"
29
+ },
30
+ {
31
+ "from": "gpt",
32
+ "value": "[AIの応答 (元データの 'output' に相当)]"
33
+ }
34
+ ]
35
+ }
36
+ ```
37
+
38
+ * `from`: 発話者を示します。"human" はユーザー、"gpt" はAIアシスタントを表します。
39
+ * `value`: 発話の内容(テキスト)です。
40
+
41
+ ## データの内容 (Data Content)
42
+
43
+ このデータセットは、`kinokokoro/ichikara-instruction-003` に含まれる全ての質問と回答のペアを変換したものです。元データセットの構成([出典情報](http://liat-aip.sakura.ne.jp/wp/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf%e4%bd%9c%e6%88%90/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf-%e5%85%ac%e9%96%8b/)に基づく)は以下の通りです。
44
+
45
+ * **2024/12/21以前公開分:**
46
+ * 1質問1回答: 1729件
47
+ * 1質問2回答: 316質問 × 2回答 = 632件
48
+ * 1質問5回答: 858質問 × 5回答 = 4290件
49
+ * **2024/12/21公開分:**
50
+ * 1質問1回答: 1999件
51
+
52
+ このShareGPT形式データセットには、上記の回答ペアがそれぞれ独立した会話として含まれています。合計で **[ここに変換後の会話総数を記載]** 件の会話データが含まれます。
53
+ *(例: 合計で **8650** 件の会話データが含まれます。)*
54
+
55
+ ## 使用方法 (How to Use)
56
+
57
+ Hugging Faceの `datasets` ライブラリを使って簡単にロードできます。
58
+
59
+ ```python
60
+ from datasets import load_dataset
61
+
62
+ # データセットをロード
63
+ dataset = load_dataset("DataPilot/ichikara-instruction-003-sharegpt")
64
+
65
+ # 'train' スプリットの最初のデータを表示
66
+ print(dataset['train'][0])
67
+ # 出力例:
68
+ # {
69
+ # 'conversations': [
70
+ # {'from': 'human', 'value': 'ここに質問文が入ります。'},
71
+ # {'from': 'gpt', 'value': 'ここに回答文が入ります。'}
72
+ # ]
73
+ # }
74
+ ```
75
+
76
+ ## 元データセット情報と謝辞 (Original Dataset Information and Acknowledgements)
77
+
78
+ このデータセットは、`kinokokoro/ichikara-instruction-003` を元に作成されました。元データセットの作成と公開に関わった方々に深く感謝いたします。
79
+
80
+ * **元データセット:** [kinokokoro/ichikara-instruction-003](https://huggingface.co/datasets/kinokokoro/ichikara-instruction-003)
81
+ * **出典情報:** [LLMのための日本語インストラクションデータ公開](http://liat-aip.sakura.ne.jp/wp/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf%e4%bd%9c%e6%88%90/llm%e3%81%ae%e3%81%9f%e3%82%81%e3%81%ae%e6%97%a5%e6%9c%ac%e8%aa%9e%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%a9%e3%82%af%e3%82%b7%e3%83%a7%e3%83%b3%e3%83%87%e3%83%bc%e3%82%bf-%e5%85%ac%e9%96%8b/)
82
+
83
+ ## ライセンス (License)
84
+
85
+ このデータセットは、元データセットのライセンスである **Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License (CC BY-NC-SA 4.0)** の下で提供されます。
86
+
87
+ ライセンスの詳細は [こちら](https://creativecommons.org/licenses/by-nc-sa/4.0/) をご確認ください。
88
+
89
+ **主な条件:**
90
+
91
+ * **表示 (Attribution):** 元の作成者のクレジットを表示する必要があります。
92
+ * **非営利 (NonCommercial):** 営利目的での利用は許可されていません。
93
+ * **継承 (ShareAlike):** このデータセットを改変、変形、加工してできた作品を配布する場合、元と同じライセンスで配布する必要があります。
94
+
95
+ ## 免責事項 (Disclaimer)
96
+
97
+ DataPilotは、元データセット `kinokokoro/ichikara-instruction-003` をShareGPT形式に変換し、利用しやすくすることを目指しました。データの内容そのものに関する正確性や適切性については、元データセットの性質を引き継いでおり、DataPilotが保証するものではありません。データのご利用は、利用者の責任において行ってください。