teruo6939 commited on
Commit
8936a9e
·
verified ·
1 Parent(s): 62dfebc

Update README_ja.md

Browse files
Files changed (1) hide show
  1. README_ja.md +8 -8
README_ja.md CHANGED
@@ -4,16 +4,16 @@
4
 
5
  ## Dataset Summary
6
 
7
- 日本の文化や風習といった日本固有の知識を問う多肢選択式の質問応答ベンチマークです。
8
- 文化、風習、風土、地理、日本史、行政、法律、医療の 8つのカテゴリの問題を含みます。
9
- このベンチマークで高いスコアを達成するには、モデルが日本に関する広い知識を獲得している必要があります。
10
 
11
  ## Leaderboard
12
 
13
  ### Evaluation Metric: Accuracy
14
 
15
- In this multiple-choice question answering task, the LLM outputs the option string rather than the option label,
16
- and accuracy is calculated as the proportion of questions whose output exactly matches the gold correct option string.
17
 
18
  | モデル | マイクロ平均 | 文化 | 風習 | 風土 | 地理 | 日本史 | 行政 | 法律 | 医療 |
19
  |:---|---:|---:|---:|---:|---:|---:|---:|---:|---:|
@@ -62,13 +62,13 @@ and accuracy is calculated as the proportion of questions whose output exactly m
62
  - カタカナを除き、全角→半角統一済み
63
  - 内部に改行 `\n` を含まない
64
  - 文字列前後の空白は除去済み
65
- - `answer_index (int)`: choice{0..3} に対応した正解選択肢のインデックス(0-3)
66
 
67
 
68
  ## Data Splits
69
 
70
- - `dev`: 4 examples per category, intended for few-shot evaluation
71
- - `test`: 2,309 examples in total
72
 
73
  Number of Examples:
74
 
 
4
 
5
  ## Dataset Summary
6
 
7
+ このベンチマークは、日本の文化や風習といった日本固有の知識を問う多肢選択式の質問応答ベンチマークです。
8
+ 文化(culture)、風習(custom)、風土(regional_identity)、地理(geography)、日本史(history)、行政(government)、法律(law)、医療(healthcare)の 8つのカテゴリの問題を含みます。
9
+ このベンチマークで高いスコアを達成するには、日本に関する幅広い知識を獲得している必要があります。
10
 
11
  ## Leaderboard
12
 
13
  ### Evaluation Metric: Accuracy
14
 
15
+ 本評価では、選択肢に付与されたラベル(0-3)でなく、LLM に選択肢文字列そのものを出力させています。
16
+ Accuracyは LLM の出力した文字列が正解選択肢の文字列と完全一致した割合です。
17
 
18
  | モデル | マイクロ平均 | 文化 | 風習 | 風土 | 地理 | 日本史 | 行政 | 法律 | 医療 |
19
  |:---|---:|---:|---:|---:|---:|---:|---:|---:|---:|
 
62
  - カタカナを除き、全角→半角統一済み
63
  - 内部に改行 `\n` を含まない
64
  - 文字列前後の空白は除去済み
65
+ - `answer_index (int)`: `choice0` 〜`choice3` に対応した正解選択肢のインデックス(0-3)
66
 
67
 
68
  ## Data Splits
69
 
70
+ - `dev`: カテゴリごとに 4-shot 学習用の 4問を設けています。
71
+ - `test`: 2,309問。内訳は以下の通り。
72
 
73
  Number of Examples:
74