한국어 GSM8K
Evaluation toolkit
- 구성: GSM8K의 한국어 번역 버전으로, 초등학교 수준의 수학 문제와 단계별 풀이 과정으로 구성
- 데이터 수량: 569개의 테스트 샘플
- 특징: 다단계 수학적 추론이 필요한 문장형 수학 문제
- 목적: 언어 모델의 수학적 추론 능력, 한국어 이해 능력을 평가하기 위한 벤치마크 데이터셋
Evaluation Results
| Type | Model | Accuracy(%) |
|---|---|---|
| Open-source | Qwen3-8B | 77.329 |
| Mistral-7B-Instruct-v0.2 | 23.023 | |
| gemma-3-12B-it | 81.547 | |
| Closed-source | gpt-4.1 | 88.225 |
| gemini-2.5-flash | 88.928 |
Acknowledgements
본 데이터셋은 2023년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (과제번호: RS-2023-00216011, 사람처럼 개념적으로 이해/추론이 가능한 복합인공지능 원천기술 연구)
This work was supported by Institute of Information & Communications Technology Planning & Evaluation (IITP) grant funded by the Korea government (MSIT) (RS-2023-00216011, Development of artificial complex intelligence for conceptually understanding and inferring like human)
- Downloads last month
- 29