metadata

license: cc-by-nc-sa-4.0
language:
  - ja

ichikara-instruction-003-sharegpt Dataset by DataPilot

データセット概要 (Dataset Summary)

このデータセットは、kinokokoro/ichikara-instruction-003 で公開されている日本語インストラクションデータを、広く利用されている ShareGPT形式 に変換したものです。変換および公開は DataPilot が行いました。

元データセットは、様々な質問に対して人間が作成した回答が含まれており、日本語の大規模言語モデル（LLM）のファインチューニングに有用です。このShareGPT形式版は、特に会話形式のデータ入力を想定したモデルの学習に適しています。

注意: 元データセットには、1つの質問に対して複数の回答が存在する場合があります。このShareGPT形式データセットでは、各「質問と回答のペア」を独立した一つの会話データとして扱っています。

データ形式 (Data Format)

データはJSON Lines形式で提供され、各行が一つの会話データ（ShareGPT形式）を表します。リスト全体が単一のJSON配列として構成されています。

各会話データは以下の構造を持ちます。

{
  "conversations": [
    {
      "from": "human",
      "value": "[ユーザーからの指示や質問 (元データの 'text' に相当)]"
    },
    {
      "from": "gpt",
      "value": "[AIの応答 (元データの 'output' に相当)]"
    }
  ]
}

from: 発話者を示します。"human" はユーザー、"gpt" はAIアシスタントを表します。
value: 発話の内容（テキスト）です。

データの内容 (Data Content)

このデータセットは、kinokokoro/ichikara-instruction-003 に含まれる全ての質問と回答のペアを変換したものです。元データセットの構成（出典情報に基づく）は以下の通りです。

2024/12/21以前公開分:
- 1質問1回答: 1729件
- 1質問2回答: 316質問 × 2回答 = 632件
- 1質問5回答: 858質問 × 5回答 = 4290件
2024/12/21公開分:
- 1質問1回答: 1999件

このShareGPT形式データセットには、上記の回答ペアがそれぞれ独立した会話として含まれています。合計で [ここに変換後の会話総数を記載] 件の会話データが含まれます。 (例: 合計で 8650 件の会話データが含まれます。)

使用方法 (How to Use)

Hugging Faceの datasets ライブラリを使って簡単にロードできます。

from datasets import load_dataset

# データセットをロード
dataset = load_dataset("DataPilot/ichikara-instruction-003-sharegpt")

# 'train' スプリットの最初のデータを表示
print(dataset['train'][0])
# 出力例:
# {
#   'conversations': [
#     {'from': 'human', 'value': 'ここに質問文が入ります。'},
#     {'from': 'gpt', 'value': 'ここに回答文が入ります。'}
#   ]
# }

元データセット情報と謝辞 (Original Dataset Information and Acknowledgements)

このデータセットは、kinokokoro/ichikara-instruction-003 を元に作成されました。元データセットの作成と公開に関わった方々に深く感謝いたします。

元データセット: kinokokoro/ichikara-instruction-003
出典情報: LLMのための日本語インストラクションデータ公開

ライセンス (License)

このデータセットは、元データセットのライセンスである Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License (CC BY-NC-SA 4.0) の下で提供されます。

ライセンスの詳細はこちらをご確認ください。

主な条件:

表示 (Attribution): 元の作成者のクレジットを表示する必要があります。
非営利 (NonCommercial): 営利目的での利用は許可されていません。
継承 (ShareAlike): このデータセットを改変、変形、加工してできた作品を配布する場合、元と同じライセンスで配布する必要があります。

免責事項 (Disclaimer)

DataPilotは、元データセット kinokokoro/ichikara-instruction-003 をShareGPT形式に変換し、利用しやすくすることを目指しました。データの内容そのものに関する正確性や適切性については、元データセットの性質を引き継いでおり、DataPilotが保証するものではありません。データのご利用は、利用者の責任において行ってください。