Update README_ja.md
Browse files- README_ja.md +8 -8
README_ja.md
CHANGED
|
@@ -4,16 +4,16 @@
|
|
| 4 |
|
| 5 |
## Dataset Summary
|
| 6 |
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
|
| 11 |
## Leaderboard
|
| 12 |
|
| 13 |
### Evaluation Metric: Accuracy
|
| 14 |
|
| 15 |
-
|
| 16 |
-
|
| 17 |
|
| 18 |
| モデル | マイクロ平均 | 文化 | 風習 | 風土 | 地理 | 日本史 | 行政 | 法律 | 医療 |
|
| 19 |
|:---|---:|---:|---:|---:|---:|---:|---:|---:|---:|
|
|
@@ -62,13 +62,13 @@ and accuracy is calculated as the proportion of questions whose output exactly m
|
|
| 62 |
- カタカナを除き、全角→半角統一済み
|
| 63 |
- 内部に改行 `\n` を含まない
|
| 64 |
- 文字列前後の空白は除去済み
|
| 65 |
-
- `answer_index (int)`:
|
| 66 |
|
| 67 |
|
| 68 |
## Data Splits
|
| 69 |
|
| 70 |
-
- `dev`: 4
|
| 71 |
-
- `test`: 2,309
|
| 72 |
|
| 73 |
Number of Examples:
|
| 74 |
|
|
|
|
| 4 |
|
| 5 |
## Dataset Summary
|
| 6 |
|
| 7 |
+
このベンチマークは、日本の文化や風習といった日本固有の知識を問う多肢選択式の質問応答ベンチマークです。
|
| 8 |
+
文化(culture)、風習(custom)、風土(regional_identity)、地理(geography)、日本史(history)、行政(government)、法律(law)、医療(healthcare)の 8つのカテゴリの問題を含みます。
|
| 9 |
+
このベンチマークで高いスコアを達成するには、日本に関する幅広い知識を獲得している必要があります。
|
| 10 |
|
| 11 |
## Leaderboard
|
| 12 |
|
| 13 |
### Evaluation Metric: Accuracy
|
| 14 |
|
| 15 |
+
本評価では、選択肢に付与されたラベル(0-3)でなく、LLM に選択肢文字列そのものを出力させています。
|
| 16 |
+
Accuracyは LLM の出力した文字列が正解選択肢の文字列と完全一致した割合です。
|
| 17 |
|
| 18 |
| モデル | マイクロ平均 | 文化 | 風習 | 風土 | 地理 | 日本史 | 行政 | 法律 | 医療 |
|
| 19 |
|:---|---:|---:|---:|---:|---:|---:|---:|---:|---:|
|
|
|
|
| 62 |
- カタカナを除き、全角→半角統一済み
|
| 63 |
- 内部に改行 `\n` を含まない
|
| 64 |
- 文字列前後の空白は除去済み
|
| 65 |
+
- `answer_index (int)`: `choice0` 〜`choice3` に対応した正解選択肢のインデックス(0-3)
|
| 66 |
|
| 67 |
|
| 68 |
## Data Splits
|
| 69 |
|
| 70 |
+
- `dev`: カテゴリごとに 4-shot 学習用の 4問を設けています。
|
| 71 |
+
- `test`: 全 2,309問。内訳は以下の通り。
|
| 72 |
|
| 73 |
Number of Examples:
|
| 74 |
|