Unnamed: 0
int64
0
18.9k
problem_type
stringclasses
1 value
context
stringlengths
27
7.43k
โŒ€
prompt
stringlengths
7
5.08k
options
stringlengths
18
3.75k
answer
stringlengths
1
248
reference
stringclasses
353 values
benchmark_name
stringclasses
8 values
mcqa_meta
stringlengths
69
317
โŒ€
original_category
stringclasses
135 values
additional_info
stringlengths
2
5.76k
split
stringclasses
2 values
task_type
stringclasses
3 values
target_type
stringclasses
5 values
subject_type
stringclasses
627 values
test_prompt
stringlengths
100
7.66k
idx
int64
0
18.9k
18,900
MCQA
null
๊ณ ๊ธ‰ ์ƒํ‘œ๋ฅผ ์—ด๋งํ•˜์ง€๋งŒ ๊ฐ€๊ฒฉ์— ๋ฏผ๊ฐํ•œ ์†Œ๋น„์ž๋ฅผ ๋Œ€์ƒ์œผ๋กœ ๋””์ž์ด๋„ˆ ์ƒํ‘œ๋ณด๋‹ค ์ €๋ ดํ•œ ๊ฐ€๊ฒฉ๋Œ€๋กœ ๋””์ž์ด๋„ˆ ์ด๋ฆ„์„ ์•Œ๋ฆฌ๋Š” ์ƒํ‘œ๋ฅผ ๋ฌด์—‡์ด๋ผ๊ณ  ํ•˜๋Š”๊ฐ€?
['๋‚ด์…”๋„ ์ƒํ‘œ(national brand)', '๋ธŒ๋ฆฟ์ง€๋ผ์ธ ์ƒํ‘œ(bridge line brand)', '์ค‘๊ฐ„์ƒ ์ƒํ‘œ(private brand)', '๋ผ์ด์„ผ์Šค ์ƒํ‘œ(license brand)']
๋ธŒ๋ฆฟ์ง€๋ผ์ธ ์ƒํ‘œ(bridge line brand)
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Fashion
{'A': '๋‚ด์…”๋„ ์ƒํ‘œ(national brand)', 'B': '๋ธŒ๋ฆฟ์ง€๋ผ์ธ ์ƒํ‘œ(bridge line brand)', 'C': '์ค‘๊ฐ„์ƒ ์ƒํ‘œ(private brand)', 'D': '๋ผ์ด์„ผ์Šค ์ƒํ‘œ(license brand)', 'Human Accuracy': 0.2857}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๊ณ ๊ธ‰ ์ƒํ‘œ๋ฅผ ์—ด๋งํ•˜์ง€๋งŒ ๊ฐ€๊ฒฉ์— ๋ฏผ๊ฐํ•œ ์†Œ๋น„์ž๋ฅผ ๋Œ€์ƒ์œผ๋กœ ๋””์ž์ด๋„ˆ ์ƒํ‘œ๋ณด๋‹ค ์ €๋ ดํ•œ ๊ฐ€๊ฒฉ๋Œ€๋กœ ๋””์ž์ด๋„ˆ ์ด๋ฆ„์„ ์•Œ๋ฆฌ๋Š” ์ƒํ‘œ๋ฅผ ๋ฌด์—‡์ด๋ผ๊ณ  ํ•˜๋Š”๊ฐ€? ๋ณด๊ธฐ: (a) ๋‚ด์…”๋„ ์ƒํ‘œ(national brand) (b) ๋ธŒ๋ฆฟ์ง€๋ผ์ธ ์ƒํ‘œ(bridge line brand) (c) ์ค‘๊ฐ„์ƒ ์ƒํ‘œ(private brand) (d) ๋ผ์ด์„ผ์Šค ์ƒํ‘œ(license brand) ๋‹ต:
18,900
18,901
MCQA
null
๋“œ๋ผ์ดํด๋ฆฌ๋‹ํ•œ ํ›„ ์„ฌ์œ ์— ๊ณฐํŒก์ด๊ฐ€ ๋ฐœ์ƒํ•˜์ง€ ์•Š๋„๋ก ์ฒ˜๋ฆฌํ•˜๋Š” ๊ฐ€๊ณต๋ฒ•์„ ๋ฌด์—‡์ด๋ผ๊ณ  ํ•˜๋Š”๊ฐ€?
['๋ฐฉ์ถฉ ๊ฐ€๊ณต', '๋ฐฉ๋ฏธ ๊ฐ€๊ณต', 'ํ’€๋จน์ž„ ๊ฐ€๊ณต', '๋ฐฉ๊ท  ๊ฐ€๊ณต']
๋ฐฉ๋ฏธ ๊ฐ€๊ณต
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Fashion
{'A': '๋ฐฉ์ถฉ ๊ฐ€๊ณต', 'B': '๋ฐฉ๋ฏธ ๊ฐ€๊ณต', 'C': 'ํ’€๋จน์ž„ ๊ฐ€๊ณต', 'D': '๋ฐฉ๊ท  ๊ฐ€๊ณต', 'Human Accuracy': 0.5}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋“œ๋ผ์ดํด๋ฆฌ๋‹ํ•œ ํ›„ ์„ฌ์œ ์— ๊ณฐํŒก์ด๊ฐ€ ๋ฐœ์ƒํ•˜์ง€ ์•Š๋„๋ก ์ฒ˜๋ฆฌํ•˜๋Š” ๊ฐ€๊ณต๋ฒ•์„ ๋ฌด์—‡์ด๋ผ๊ณ  ํ•˜๋Š”๊ฐ€? ๋ณด๊ธฐ: (a) ๋ฐฉ์ถฉ ๊ฐ€๊ณต (b) ๋ฐฉ๋ฏธ ๊ฐ€๊ณต (c) ํ’€๋จน์ž„ ๊ฐ€๊ณต (d) ๋ฐฉ๊ท  ๊ฐ€๊ณต ๋‹ต:
18,901
18,902
MCQA
null
์˜๋ณต์˜ ๋ณด๊ด€ ๋ฐฉ๋ฒ•์— ๋Œ€ํ•œ ์„ค๋ช…์œผ๋กœ ํ‹€๋ฆฐ ๊ฒƒ์€?
['์˜ท์„ ํ•œ ๋ฒŒ์”ฉ ์ข…์ด์— ์‹ธ์„œ ๋ณด๊ด€ํ•œ๋‹ค.', '์˜ท์€ ๋ฌด๊ฑฐ์šด ๊ฒƒ์„ ๋ฐ‘์œผ๋กœ ๋„ฃ๊ณ , ํ˜•ํƒœ๊ฐ€ ๋ˆŒ๋ฆฌ๊ธฐ ์‰ฌ์šด ๊ฒƒ์€ ์œ„๋กœ ํ•œ๋‹ค.', '๋ฐฉ์Šต, ๋ฐฉ์ถฉ์„ ์œ„ํ•œ ์šฉ๊ธฐ๋Š” ๋ฐ€ํ๋˜์ง€ ์•Š์€ ๊ฐœ๋ฐฉ๋œ ๊ฒƒ์ด์–ด์•ผ ํ•œ๋‹ค.', '์žฅ๊ธฐ๊ฐ„ ๋ณด๊ด€ํ•˜๋Š” ์šฉ๊ธฐ๋Š” ์Šต๊ธฐ๊ฐ€ ์ ๊ณ , ์ง์‚ฌ ์ผ๊ด‘์„ ์ฐจ๋‹จํ•  ์ˆ˜ ์žˆ๋Š” ๊ณณ์ด์–ด์•ผ ํ•œ๋‹ค.']
๋ฐฉ์Šต, ๋ฐฉ์ถฉ์„ ์œ„ํ•œ ์šฉ๊ธฐ๋Š” ๋ฐ€ํ๋˜์ง€ ์•Š์€ ๊ฐœ๋ฐฉ๋œ ๊ฒƒ์ด์–ด์•ผ ํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Fashion
{'A': '์˜ท์„ ํ•œ ๋ฒŒ์”ฉ ์ข…์ด์— ์‹ธ์„œ ๋ณด๊ด€ํ•œ๋‹ค.', 'B': '์˜ท์€ ๋ฌด๊ฑฐ์šด ๊ฒƒ์„ ๋ฐ‘์œผ๋กœ ๋„ฃ๊ณ , ํ˜•ํƒœ๊ฐ€ ๋ˆŒ๋ฆฌ๊ธฐ ์‰ฌ์šด ๊ฒƒ์€ ์œ„๋กœ ํ•œ๋‹ค.', 'C': '๋ฐฉ์Šต, ๋ฐฉ์ถฉ์„ ์œ„ํ•œ ์šฉ๊ธฐ๋Š” ๋ฐ€ํ๋˜์ง€ ์•Š์€ ๊ฐœ๋ฐฉ๋œ ๊ฒƒ์ด์–ด์•ผ ํ•œ๋‹ค.', 'D': '์žฅ๊ธฐ๊ฐ„ ๋ณด๊ด€ํ•˜๋Š” ์šฉ๊ธฐ๋Š” ์Šต๊ธฐ๊ฐ€ ์ ๊ณ , ์ง์‚ฌ ์ผ๊ด‘์„ ์ฐจ๋‹จํ•  ์ˆ˜ ์žˆ๋Š” ๊ณณ์ด์–ด์•ผ ํ•œ๋‹ค.', 'Human Accuracy': 0.5455}
test
reasoning
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์˜๋ณต์˜ ๋ณด๊ด€ ๋ฐฉ๋ฒ•์— ๋Œ€ํ•œ ์„ค๋ช…์œผ๋กœ ํ‹€๋ฆฐ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์˜ท์„ ํ•œ ๋ฒŒ์”ฉ ์ข…์ด์— ์‹ธ์„œ ๋ณด๊ด€ํ•œ๋‹ค. (b) ์˜ท์€ ๋ฌด๊ฑฐ์šด ๊ฒƒ์„ ๋ฐ‘์œผ๋กœ ๋„ฃ๊ณ , ํ˜•ํƒœ๊ฐ€ ๋ˆŒ๋ฆฌ๊ธฐ ์‰ฌ์šด ๊ฒƒ์€ ์œ„๋กœ ํ•œ๋‹ค. (c) ๋ฐฉ์Šต, ๋ฐฉ์ถฉ์„ ์œ„ํ•œ ์šฉ๊ธฐ๋Š” ๋ฐ€ํ๋˜์ง€ ์•Š์€ ๊ฐœ๋ฐฉ๋œ ๊ฒƒ์ด์–ด์•ผ ํ•œ๋‹ค. (d) ์žฅ๊ธฐ๊ฐ„ ๋ณด๊ด€ํ•˜๋Š” ์šฉ๊ธฐ๋Š” ์Šต๊ธฐ๊ฐ€ ์ ๊ณ , ์ง์‚ฌ ์ผ๊ด‘์„ ์ฐจ๋‹จํ•  ์ˆ˜ ์žˆ๋Š” ๊ณณ์ด์–ด์•ผ ํ•œ๋‹ค. ๋‹ต:
18,902
18,903
MCQA
null
์˜ฌ์ด ํ’€๋ฆฌ๋Š” ๊ฒƒ์„ ๋ฐฉ์ง€ํ•˜๋ฉฐ, ๋™์‹œ์— ์‹œ์ ‘ ๊ฐ€์žฅ์ž๋ฆฌ๋„ ์ •๋ฆฌํ•˜๋Š” ๋Šฅ๋ฅ ์ ์ธ ์†”๊ธฐ๋Š”?
['๊ฐ€๋ฆ„์†”', '๊ฒน์†”', '์ธํ„ฐ๋ก', '์˜ค๋ฒ„๋ก์†”']
์˜ค๋ฒ„๋ก์†”
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Fashion
{'A': '๊ฐ€๋ฆ„์†”', 'B': '๊ฒน์†”', 'C': '์ธํ„ฐ๋ก', 'D': '์˜ค๋ฒ„๋ก์†”', 'Human Accuracy': 0.3684}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์˜ฌ์ด ํ’€๋ฆฌ๋Š” ๊ฒƒ์„ ๋ฐฉ์ง€ํ•˜๋ฉฐ, ๋™์‹œ์— ์‹œ์ ‘ ๊ฐ€์žฅ์ž๋ฆฌ๋„ ์ •๋ฆฌํ•˜๋Š” ๋Šฅ๋ฅ ์ ์ธ ์†”๊ธฐ๋Š”? ๋ณด๊ธฐ: (a) ๊ฐ€๋ฆ„์†” (b) ๊ฒน์†” (c) ์ธํ„ฐ๋ก (d) ์˜ค๋ฒ„๋ก์†” ๋‹ต:
18,903
18,904
MCQA
null
์˜ท๊ฐ์˜ ๋„ˆ๋น„๊ฐ€ 110cm ์ผ ๋•Œ ์˜ท๊ฐ๋Ÿ‰์˜ ํ•„์š”๋Ÿ‰ ๊ณ„์‚ฐ๋ฒ•์œผ๋กœ ์˜ณ์€ ๊ฒƒ์€?
['์Šฌ๋ž™์Šค = ์Šฌ๋ž™์Šค ๊ธธ์ด + ์‹œ์ ‘', 'ํ”Œ๋ ˆ์–ด ์Šค์ปคํŠธ = (์Šค์ปคํŠธ ๊ธธ์ด ร— 1.5) + ์‹œ์ ‘', '๋ฐ˜์†Œ๋งค ๋ธ”๋ผ์šฐ์Šค = ๋ธ”๋ผ์šฐ์Šค ๊ธธ์ด + ์†Œ๋งค ๊ธธ์ด + ์‹œ์ ‘', '๊ธด ์†Œ๋งค ์ŠˆํŠธ = (์žฌํ‚ท ๊ธธ์ด ร— 2) + ์Šค์ปคํŠธ ๊ธธ์ด + ์†Œ๋งค ๊ธธ์ด + ์‹œ์ ‘']
๊ธด ์†Œ๋งค ์ŠˆํŠธ = (์žฌํ‚ท ๊ธธ์ด ร— 2) + ์Šค์ปคํŠธ ๊ธธ์ด + ์†Œ๋งค ๊ธธ์ด + ์‹œ์ ‘
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Fashion
{'A': '์Šฌ๋ž™์Šค = ์Šฌ๋ž™์Šค ๊ธธ์ด + ์‹œ์ ‘', 'B': 'ํ”Œ๋ ˆ์–ด ์Šค์ปคํŠธ = (์Šค์ปคํŠธ ๊ธธ์ด ร— 1.5) + ์‹œ์ ‘', 'C': '๋ฐ˜์†Œ๋งค ๋ธ”๋ผ์šฐ์Šค = ๋ธ”๋ผ์šฐ์Šค ๊ธธ์ด + ์†Œ๋งค ๊ธธ์ด + ์‹œ์ ‘', 'D': '๊ธด ์†Œ๋งค ์ŠˆํŠธ = (์žฌํ‚ท ๊ธธ์ด ร— 2) + ์Šค์ปคํŠธ ๊ธธ์ด + ์†Œ๋งค ๊ธธ์ด + ์‹œ์ ‘', 'Human Accuracy': 0.373299999999999}
test
reasoning
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์˜ท๊ฐ์˜ ๋„ˆ๋น„๊ฐ€ 110cm ์ผ ๋•Œ ์˜ท๊ฐ๋Ÿ‰์˜ ํ•„์š”๋Ÿ‰ ๊ณ„์‚ฐ๋ฒ•์œผ๋กœ ์˜ณ์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์Šฌ๋ž™์Šค = ์Šฌ๋ž™์Šค ๊ธธ์ด + ์‹œ์ ‘ (b) ํ”Œ๋ ˆ์–ด ์Šค์ปคํŠธ = (์Šค์ปคํŠธ ๊ธธ์ด ร— 1.5) + ์‹œ์ ‘ (c) ๋ฐ˜์†Œ๋งค ๋ธ”๋ผ์šฐ์Šค = ๋ธ”๋ผ์šฐ์Šค ๊ธธ์ด + ์†Œ๋งค ๊ธธ์ด + ์‹œ์ ‘ (d) ๊ธด ์†Œ๋งค ์ŠˆํŠธ = (์žฌํ‚ท ๊ธธ์ด ร— 2) + ์Šค์ปคํŠธ ๊ธธ์ด + ์†Œ๋งค ๊ธธ์ด + ์‹œ์ ‘ ๋‹ต:
18,904
18,905
MCQA
null
์˜ท๊ฐ์„ ๋‹ค๋ฆฌ๋ฏธ๋กœ ๋Š˜๋ ค์„œ ์ •๋ฆฌํ•˜๋Š” ๋ถ€๋ถ„์ด ์•„๋‹Œ ๊ฒƒ์€?
['์Šค์ปคํŠธ ํ—ˆ๋ฆฌ๋ถ€๋ถ„', '์•ž๋‹ค๋ฆฌ๊ฐ€ ์‹œ์ž‘๋˜๋Š” ๋ฐ”๋กœ ๋ฐ‘', '๋ฐ”์ง€ ๋’ค', '์†Œ๋งค ์•ˆ์ชฝ']
์Šค์ปคํŠธ ํ—ˆ๋ฆฌ๋ถ€๋ถ„
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '1'}
Fashion
{'A': '์Šค์ปคํŠธ ํ—ˆ๋ฆฌ๋ถ€๋ถ„', 'B': '์•ž๋‹ค๋ฆฌ๊ฐ€ ์‹œ์ž‘๋˜๋Š” ๋ฐ”๋กœ ๋ฐ‘', 'C': '๋ฐ”์ง€ ๋’ค', 'D': '์†Œ๋งค ์•ˆ์ชฝ', 'Human Accuracy': 0.5}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์˜ท๊ฐ์„ ๋‹ค๋ฆฌ๋ฏธ๋กœ ๋Š˜๋ ค์„œ ์ •๋ฆฌํ•˜๋Š” ๋ถ€๋ถ„์ด ์•„๋‹Œ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์Šค์ปคํŠธ ํ—ˆ๋ฆฌ๋ถ€๋ถ„ (b) ์•ž๋‹ค๋ฆฌ๊ฐ€ ์‹œ์ž‘๋˜๋Š” ๋ฐ”๋กœ ๋ฐ‘ (c) ๋ฐ”์ง€ ๋’ค (d) ์†Œ๋งค ์•ˆ์ชฝ ๋‹ต:
18,905
18,906
MCQA
null
์žฌํ‚ท์˜ ํ•œ ์žฅ ์†Œ๋งค๋ฅผ ๊ฐ€๋ด‰ํ•˜๋Š” ๋ฐฉ๋ฒ•์œผ๋กœ ํ‹€๋ฆฐ ๊ฒƒ์€?
['์†Œ๋งค์˜ ๋‹คํŠธ๋ฅผ ์ ‘์–ด ์ƒ์นจํ•œ๋‹ค.', '์†Œ๋งค๋‹จ์„ ์ ‘์–ด์„œ ์ƒ์นจ ์‹œ์นจํ•œ๋‹ค.', '์†Œ๋งค์˜ ์ง„๋™๋‘˜๋ ˆ๋ฅผ ์˜ค๊ทธ๋ฆฐ๋‹ค.', '์†Œ๋งค์˜ ๋ฐ‘ ์†Œ๋งค์™€ ์œ„์ชฝ ์†Œ๋งค๋ฆ ์‹œ์ ‘์„ ๋Œ€๊ณ  ์ƒ์นจ ์‹œ์นจํ•œ๋‹ค.']
์†Œ๋งค์˜ ๋ฐ‘ ์†Œ๋งค์™€ ์œ„์ชฝ ์†Œ๋งค๋ฆ ์‹œ์ ‘์„ ๋Œ€๊ณ  ์ƒ์นจ ์‹œ์นจํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Fashion
{'A': '์†Œ๋งค์˜ ๋‹คํŠธ๋ฅผ ์ ‘์–ด ์ƒ์นจํ•œ๋‹ค.', 'B': '์†Œ๋งค๋‹จ์„ ์ ‘์–ด์„œ ์ƒ์นจ ์‹œ์นจํ•œ๋‹ค.', 'C': '์†Œ๋งค์˜ ์ง„๋™๋‘˜๋ ˆ๋ฅผ ์˜ค๊ทธ๋ฆฐ๋‹ค.', 'D': '์†Œ๋งค์˜ ๋ฐ‘ ์†Œ๋งค์™€ ์œ„์ชฝ ์†Œ๋งค๋ฆ ์‹œ์ ‘์„ ๋Œ€๊ณ  ์ƒ์นจ ์‹œ์นจํ•œ๋‹ค.', 'Human Accuracy': 0.583299999999999}
test
reasoning
ko
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์žฌํ‚ท์˜ ํ•œ ์žฅ ์†Œ๋งค๋ฅผ ๊ฐ€๋ด‰ํ•˜๋Š” ๋ฐฉ๋ฒ•์œผ๋กœ ํ‹€๋ฆฐ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์†Œ๋งค์˜ ๋‹คํŠธ๋ฅผ ์ ‘์–ด ์ƒ์นจํ•œ๋‹ค. (b) ์†Œ๋งค๋‹จ์„ ์ ‘์–ด์„œ ์ƒ์นจ ์‹œ์นจํ•œ๋‹ค. (c) ์†Œ๋งค์˜ ์ง„๋™๋‘˜๋ ˆ๋ฅผ ์˜ค๊ทธ๋ฆฐ๋‹ค. (d) ์†Œ๋งค์˜ ๋ฐ‘ ์†Œ๋งค์™€ ์œ„์ชฝ ์†Œ๋งค๋ฆ ์‹œ์ ‘์„ ๋Œ€๊ณ  ์ƒ์นจ ์‹œ์นจํ•œ๋‹ค. ๋‹ต:
18,906
18,907
MCQA
null
๋งˆ์„ฌ์œ ์˜ ์ข…๋ฅ˜ ์ค‘ ์ˆœ์ˆ˜ํ•œ ์…€๋ฃฐ๋กœ์Šค ํ•จ์œ ๋Ÿ‰์ด ๊ฐ€์žฅ ๋งŽ์€ ๊ฒƒ์€?
['์•„๋งˆ', '๋Œ€๋งˆ', '์ €๋งˆ', 'ํ™ฉ๋งˆ']
์ €๋งˆ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Fashion
{'A': '์•„๋งˆ', 'B': '๋Œ€๋งˆ', 'C': '์ €๋งˆ', 'D': 'ํ™ฉ๋งˆ', 'Human Accuracy': 0.4355}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋งˆ์„ฌ์œ ์˜ ์ข…๋ฅ˜ ์ค‘ ์ˆœ์ˆ˜ํ•œ ์…€๋ฃฐ๋กœ์Šค ํ•จ์œ ๋Ÿ‰์ด ๊ฐ€์žฅ ๋งŽ์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์•„๋งˆ (b) ๋Œ€๋งˆ (c) ์ €๋งˆ (d) ํ™ฉ๋งˆ ๋‹ต:
18,907
18,908
MCQA
null
ํด๋ž˜์‹ํ•œ ์ด๋ฏธ์ง€๋ฅผ ๊ฐ€์ง„ ํด๋กœ๋‚˜ ๋นˆํด๊ณผ ๊ฐ™์€ ๋ธŒ๋žœ๋“œ์˜ ์ ํ•ฉํ•œ ์ƒํ’ˆ๊ตฐ ๊ตฌ์„ฑ์˜ ์„ค๋ช…์œผ๋กœ ๊ฐ€์žฅ ์˜ณ์€ ๊ฒƒ์€?
['์‹œ์ฆŒ๋ณ„๋กœ ์œ ํ–‰์— ๋งž์ถฐ ๊ตฌ์„ฑํ•œ๋‹ค.', 'ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ๋ณด๋‹ค ๋ฒ ์ด์ง์ด๋‚˜ ๋‰ด๋ฒ ์ด์ง ์ƒํ’ˆ์— ๋” ๋น„์ค‘์„ ๋‘”๋‹ค.', '๋ฒ ์ด์ง, ๋‰ด๋ฒ ์ด์ง, ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ์— ๋™์ผํ•œ ๋น„์ค‘์„ ๋‘”๋‹ค.', '๋ฒ ์ด์ง์ด๋‚˜ ๋‰ด๋ฒ ์ด์ง ์ƒํ’ˆ๋ณด๋‹ค ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ์— ๋” ๋น„์ค‘์„ ๋‘”๋‹ค.']
ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ๋ณด๋‹ค ๋ฒ ์ด์ง์ด๋‚˜ ๋‰ด๋ฒ ์ด์ง ์ƒํ’ˆ์— ๋” ๋น„์ค‘์„ ๋‘”๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Fashion
{'A': '์‹œ์ฆŒ๋ณ„๋กœ ์œ ํ–‰์— ๋งž์ถฐ ๊ตฌ์„ฑํ•œ๋‹ค.', 'B': 'ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ๋ณด๋‹ค ๋ฒ ์ด์ง์ด๋‚˜ ๋‰ด๋ฒ ์ด์ง ์ƒํ’ˆ์— ๋” ๋น„์ค‘์„ ๋‘”๋‹ค.', 'C': '๋ฒ ์ด์ง, ๋‰ด๋ฒ ์ด์ง, ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ์— ๋™์ผํ•œ ๋น„์ค‘์„ ๋‘”๋‹ค.', 'D': '๋ฒ ์ด์ง์ด๋‚˜ ๋‰ด๋ฒ ์ด์ง ์ƒํ’ˆ๋ณด๋‹ค ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ์— ๋” ๋น„์ค‘์„ ๋‘”๋‹ค.', 'Human Accuracy': 0.4}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํด๋ž˜์‹ํ•œ ์ด๋ฏธ์ง€๋ฅผ ๊ฐ€์ง„ ํด๋กœ๋‚˜ ๋นˆํด๊ณผ ๊ฐ™์€ ๋ธŒ๋žœ๋“œ์˜ ์ ํ•ฉํ•œ ์ƒํ’ˆ๊ตฐ ๊ตฌ์„ฑ์˜ ์„ค๋ช…์œผ๋กœ ๊ฐ€์žฅ ์˜ณ์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์‹œ์ฆŒ๋ณ„๋กœ ์œ ํ–‰์— ๋งž์ถฐ ๊ตฌ์„ฑํ•œ๋‹ค. (b) ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ๋ณด๋‹ค ๋ฒ ์ด์ง์ด๋‚˜ ๋‰ด๋ฒ ์ด์ง ์ƒํ’ˆ์— ๋” ๋น„์ค‘์„ ๋‘”๋‹ค. (c) ๋ฒ ์ด์ง, ๋‰ด๋ฒ ์ด์ง, ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ์— ๋™์ผํ•œ ๋น„์ค‘์„ ๋‘”๋‹ค. (d) ๋ฒ ์ด์ง์ด๋‚˜ ๋‰ด๋ฒ ์ด์ง ์ƒํ’ˆ๋ณด๋‹ค ํŠธ๋ Œ๋””ํ•œ ์ƒํ’ˆ์— ๋” ๋น„์ค‘์„ ๋‘”๋‹ค. ๋‹ต:
18,908
18,909
MCQA
null
์ธ์ฒด์˜ ๊ฐ ๋ถ€์œ„๋ณ„ ๋ช…์นญ ๋ฐ ๊ณ„์ธก๋ฒ• ์ค‘ ํ‹€๋ฆฐ ๊ฒƒ์€?
['์–ด๊นจ๋„ˆ๋น„:์ขŒ์šฐ ์–ด๊นจ ๋์  ์‚ฌ์ด์˜ ๊ธธ์ด๋ฅผ ์ธก์ •ํ•œ๋‹ค.', '๋“ฑ๊ธธ์ด:๋’ท๋ชฉ์ ์—์„œ ๋’ค ์ค‘์‹ฌ์„ ์„ ๋”ฐ๋ผ ํ—ˆ๋ฆฌ๋‘˜๋ ˆ์„ ๊นŒ์ง€ ๊ธธ์ด๋ฅผ ์ธก์ •ํ•œ๋‹ค.', '์•ž๊ธธ์ด:์˜†๋ชฉ์ ์—์„œ ์œ ๋‘์ ์„ ์ง€๋‚˜ ํ—ˆ๋ฆฌ์„ ๊นŒ์ง€ ์ธก์ •ํ•œ๋‹ค.', '๊ฐ€์Šด๋‘˜๋ ˆ:๊ฒจ๋“œ๋ž‘์ด ๋ฐ‘์œผ๋กœ ์ค„์ž๋ฅผ ๋‘˜๋Ÿฌ์„œ ์œ ๋‘ ์œ„์ชฝ์œผ๋กœ ์ธก์ •ํ•œ๋‹ค.']
๊ฐ€์Šด๋‘˜๋ ˆ:๊ฒจ๋“œ๋ž‘์ด ๋ฐ‘์œผ๋กœ ์ค„์ž๋ฅผ ๋‘˜๋Ÿฌ์„œ ์œ ๋‘ ์œ„์ชฝ์œผ๋กœ ์ธก์ •ํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Fashion
{'A': '์–ด๊นจ๋„ˆ๋น„:์ขŒ์šฐ ์–ด๊นจ ๋์  ์‚ฌ์ด์˜ ๊ธธ์ด๋ฅผ ์ธก์ •ํ•œ๋‹ค.', 'B': '๋“ฑ๊ธธ์ด:๋’ท๋ชฉ์ ์—์„œ ๋’ค ์ค‘์‹ฌ์„ ์„ ๋”ฐ๋ผ ํ—ˆ๋ฆฌ๋‘˜๋ ˆ์„ ๊นŒ์ง€ ๊ธธ์ด๋ฅผ ์ธก์ •ํ•œ๋‹ค.', 'C': '์•ž๊ธธ์ด:์˜†๋ชฉ์ ์—์„œ ์œ ๋‘์ ์„ ์ง€๋‚˜ ํ—ˆ๋ฆฌ์„ ๊นŒ์ง€ ์ธก์ •ํ•œ๋‹ค.', 'D': '๊ฐ€์Šด๋‘˜๋ ˆ:๊ฒจ๋“œ๋ž‘์ด ๋ฐ‘์œผ๋กœ ์ค„์ž๋ฅผ ๋‘˜๋Ÿฌ์„œ ์œ ๋‘ ์œ„์ชฝ์œผ๋กœ ์ธก์ •ํ•œ๋‹ค.', 'Human Accuracy': 0.46430000000000005}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ธ์ฒด์˜ ๊ฐ ๋ถ€์œ„๋ณ„ ๋ช…์นญ ๋ฐ ๊ณ„์ธก๋ฒ• ์ค‘ ํ‹€๋ฆฐ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์–ด๊นจ๋„ˆ๋น„:์ขŒ์šฐ ์–ด๊นจ ๋์  ์‚ฌ์ด์˜ ๊ธธ์ด๋ฅผ ์ธก์ •ํ•œ๋‹ค. (b) ๋“ฑ๊ธธ์ด:๋’ท๋ชฉ์ ์—์„œ ๋’ค ์ค‘์‹ฌ์„ ์„ ๋”ฐ๋ผ ํ—ˆ๋ฆฌ๋‘˜๋ ˆ์„ ๊นŒ์ง€ ๊ธธ์ด๋ฅผ ์ธก์ •ํ•œ๋‹ค. (c) ์•ž๊ธธ์ด:์˜†๋ชฉ์ ์—์„œ ์œ ๋‘์ ์„ ์ง€๋‚˜ ํ—ˆ๋ฆฌ์„ ๊นŒ์ง€ ์ธก์ •ํ•œ๋‹ค. (d) ๊ฐ€์Šด๋‘˜๋ ˆ:๊ฒจ๋“œ๋ž‘์ด ๋ฐ‘์œผ๋กœ ์ค„์ž๋ฅผ ๋‘˜๋Ÿฌ์„œ ์œ ๋‘ ์œ„์ชฝ์œผ๋กœ ์ธก์ •ํ•œ๋‹ค. ๋‹ต:
18,909
18,910
MCQA
null
๋„์•ˆ์ƒ‰์ด ๋ถ„ํ™์ƒ‰์ธ ๊ฒฝ์šฐ ๋ฐฐ๊ฒฝ์ƒ‰์œผ๋กœ ๊ฐ€์žฅ ๋ช…์‹œ๋„๋ฅผ ๋†’์ผ ์ˆ˜ ์žˆ๋Š” ์ƒ‰์€?
['ํฐ์ƒ‰', '์—ฐ๋‘', '๊ฒ€์ •', '์ฃผํ™ฉ']
๊ฒ€์ •
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Fashion
{'A': 'ํฐ์ƒ‰', 'B': '์—ฐ๋‘', 'C': '๊ฒ€์ •', 'D': '์ฃผํ™ฉ', 'Human Accuracy': 0.5}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋„์•ˆ์ƒ‰์ด ๋ถ„ํ™์ƒ‰์ธ ๊ฒฝ์šฐ ๋ฐฐ๊ฒฝ์ƒ‰์œผ๋กœ ๊ฐ€์žฅ ๋ช…์‹œ๋„๋ฅผ ๋†’์ผ ์ˆ˜ ์žˆ๋Š” ์ƒ‰์€? ๋ณด๊ธฐ: (a) ํฐ์ƒ‰ (b) ์—ฐ๋‘ (c) ๊ฒ€์ • (d) ์ฃผํ™ฉ ๋‹ต:
18,910
18,911
MCQA
null
์ŠˆํŠธ ์ •์žฅ์—์„œ ํฌ์ผ“ ์œ„์น˜๋ฅผ ์ •ํ•  ๋•Œ ์žฌํ‚ท์˜ ๊ธธ์ด๋ฅผ ๊ณ ๋ คํ•˜๋Š” ๋””์ž์ธ์˜ ์›๋ฆฌ๋Š”?
['๊ท ํ˜•', '๋น„๋ก€', '๋ฆฌ๋“ฌ', '์กฐํ™”']
๋น„๋ก€
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Fashion
{'A': '๊ท ํ˜•', 'B': '๋น„๋ก€', 'C': '๋ฆฌ๋“ฌ', 'D': '์กฐํ™”', 'Human Accuracy': 0.3529}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ŠˆํŠธ ์ •์žฅ์—์„œ ํฌ์ผ“ ์œ„์น˜๋ฅผ ์ •ํ•  ๋•Œ ์žฌํ‚ท์˜ ๊ธธ์ด๋ฅผ ๊ณ ๋ คํ•˜๋Š” ๋””์ž์ธ์˜ ์›๋ฆฌ๋Š”? ๋ณด๊ธฐ: (a) ๊ท ํ˜• (b) ๋น„๋ก€ (c) ๋ฆฌ๋“ฌ (d) ์กฐํ™” ๋‹ต:
18,911
18,912
MCQA
null
์–ผ๋ฃฉ๋นผ๊ธฐ์˜ ๋’ท์ฒ˜๋ฆฌ๋กœ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€?
['์–ผ๋ฃฉ์„ ๋บ€ ํ›„ ์ผ๋‹จ ์ „์ฒด์ ์œผ๋กœ ์„ธํƒํ•œ๋‹ค.', '์šฉ์ œ๋‚˜ ์•ฝ์ œ ์‚ฌ์šฉ์— ์˜ํ•œ ์–ผ๋ฃฉ์€ ์œ ๊ธฐ์šฉ์ œ๋ฅผ ๋ถ„๋ฌด๊ธฐ๋กœ ์•ˆ์—์„œ ๋ฐ–์œผ๋กœ ์›์„ ๊ทธ๋ฆฌ๋“ฏ ๋ฟœ์–ด์ฃผ๊ณ  ๋งˆ๋ฅธ ์ˆ˜๊ฑด์œผ๋กœ ํก์ˆ˜์‹œํ‚จ๋‹ค.', '์ƒ‰์ด ์žˆ๋Š” ๊ฒฝ์šฐ ์–ผ๋ฃฉ๋ถ€๋ถ„์„ ํ‘œ๋ฐฑ์ œ๋กœ ํƒˆ์ƒ‰ํ•œ ํ›„ ๋ถ€๋ถ„ ๋„์ƒ‰ํ•œ๋‹ค.', '์—ผ์ƒ‰ ๋ณด์ •์€ ๊ณ ๋„์˜ ๊ธฐ์ˆ ์„ ์Šต๋“ํ•œ ํ›„์— ํ•˜๋Š” ๊ฒƒ์ด ๋ฐ”๋žŒ์งํ•˜๋‹ค.']
์ƒ‰์ด ์žˆ๋Š” ๊ฒฝ์šฐ ์–ผ๋ฃฉ๋ถ€๋ถ„์„ ํ‘œ๋ฐฑ์ œ๋กœ ํƒˆ์ƒ‰ํ•œ ํ›„ ๋ถ€๋ถ„ ๋„์ƒ‰ํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Fashion
{'A': '์–ผ๋ฃฉ์„ ๋บ€ ํ›„ ์ผ๋‹จ ์ „์ฒด์ ์œผ๋กœ ์„ธํƒํ•œ๋‹ค.', 'B': '์šฉ์ œ๋‚˜ ์•ฝ์ œ ์‚ฌ์šฉ์— ์˜ํ•œ ์–ผ๋ฃฉ์€ ์œ ๊ธฐ์šฉ์ œ๋ฅผ ๋ถ„๋ฌด๊ธฐ๋กœ ์•ˆ์—์„œ ๋ฐ–์œผ๋กœ ์›์„ ๊ทธ๋ฆฌ๋“ฏ ๋ฟœ์–ด์ฃผ๊ณ  ๋งˆ๋ฅธ ์ˆ˜๊ฑด์œผ๋กœ ํก์ˆ˜์‹œํ‚จ๋‹ค.', 'C': '์ƒ‰์ด ์žˆ๋Š” ๊ฒฝ์šฐ ์–ผ๋ฃฉ๋ถ€๋ถ„์„ ํ‘œ๋ฐฑ์ œ๋กœ ํƒˆ์ƒ‰ํ•œ ํ›„ ๋ถ€๋ถ„ ๋„์ƒ‰ํ•œ๋‹ค.', 'D': '์—ผ์ƒ‰ ๋ณด์ •์€ ๊ณ ๋„์˜ ๊ธฐ์ˆ ์„ ์Šต๋“ํ•œ ํ›„์— ํ•˜๋Š” ๊ฒƒ์ด ๋ฐ”๋žŒ์งํ•˜๋‹ค.', 'Human Accuracy': 0.5}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์–ผ๋ฃฉ๋นผ๊ธฐ์˜ ๋’ท์ฒ˜๋ฆฌ๋กœ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์–ผ๋ฃฉ์„ ๋บ€ ํ›„ ์ผ๋‹จ ์ „์ฒด์ ์œผ๋กœ ์„ธํƒํ•œ๋‹ค. (b) ์šฉ์ œ๋‚˜ ์•ฝ์ œ ์‚ฌ์šฉ์— ์˜ํ•œ ์–ผ๋ฃฉ์€ ์œ ๊ธฐ์šฉ์ œ๋ฅผ ๋ถ„๋ฌด๊ธฐ๋กœ ์•ˆ์—์„œ ๋ฐ–์œผ๋กœ ์›์„ ๊ทธ๋ฆฌ๋“ฏ ๋ฟœ์–ด์ฃผ๊ณ  ๋งˆ๋ฅธ ์ˆ˜๊ฑด์œผ๋กœ ํก์ˆ˜์‹œํ‚จ๋‹ค. (c) ์ƒ‰์ด ์žˆ๋Š” ๊ฒฝ์šฐ ์–ผ๋ฃฉ๋ถ€๋ถ„์„ ํ‘œ๋ฐฑ์ œ๋กœ ํƒˆ์ƒ‰ํ•œ ํ›„ ๋ถ€๋ถ„ ๋„์ƒ‰ํ•œ๋‹ค. (d) ์—ผ์ƒ‰ ๋ณด์ •์€ ๊ณ ๋„์˜ ๊ธฐ์ˆ ์„ ์Šต๋“ํ•œ ํ›„์— ํ•˜๋Š” ๊ฒƒ์ด ๋ฐ”๋žŒ์งํ•˜๋‹ค. ๋‹ต:
18,912
18,913
MCQA
null
์˜๋ณต์˜ ๋ฐฐ์ƒ‰์กฐํ™”์— ๋Œ€ํ•œ ์„ค๋ช… ์ค‘ ํ‹€๋ฆฐ ๊ฒƒ์€?
['์ €์ฑ„๋„์ธ ์ƒ‰์˜ ๋ฉด์ ์„ ๋„“๊ฒŒ ํ•˜๊ณ  ๊ณ ์ฑ„๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•œ๋ฉด ๊ท ํ˜•์ด ๋งž๊ณ  ์ˆ˜์ˆ˜ํ•œ ๋А๋‚Œ์ด ๋“ ๋‹ค.', '๊ณ ์ฑ„๋„์ธ ์ƒ‰์˜ ๋ฉด์ ์„ ๋„“๊ฒŒ ํ•˜๊ณ  ์ €์ฑ„๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๋ฉด ๋งค์šฐ ํ™”๋ คํ•œ ๋ฐฐ์ƒ‰์ด ๋œ๋‹ค.', '๊ณ ๋ช…๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๊ณ  ์ €๋ช…๋„์˜ ์ƒ‰์„ ๋„“๊ฒŒ ํ•˜๋ฉด ๋ช…์‹œ๋„๊ฐ€ ๋‚ฎ์•„ ๋ณด์ธ๋‹ค.', 'ํ•œ์ƒ‰๊ณ„์˜ ์ƒ‰์„ ๋„“๊ฒŒ ํ•˜๊ณ  ๋‚œ์ƒ‰๊ณ„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๋ฉด ์•ฝ๊ฐ„ ์นจ์šธํ•˜๊ณ  ๊ฐ€๋ผ์•‰์€ ๋“ฏํ•œ ๋А๋‚Œ์ด ๋“ ๋‹ค.']
๊ณ ๋ช…๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๊ณ  ์ €๋ช…๋„์˜ ์ƒ‰์„ ๋„“๊ฒŒ ํ•˜๋ฉด ๋ช…์‹œ๋„๊ฐ€ ๋‚ฎ์•„ ๋ณด์ธ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Fashion
{'A': '์ €์ฑ„๋„์ธ ์ƒ‰์˜ ๋ฉด์ ์„ ๋„“๊ฒŒ ํ•˜๊ณ  ๊ณ ์ฑ„๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•œ๋ฉด ๊ท ํ˜•์ด ๋งž๊ณ  ์ˆ˜์ˆ˜ํ•œ ๋А๋‚Œ์ด ๋“ ๋‹ค.', 'B': '๊ณ ์ฑ„๋„์ธ ์ƒ‰์˜ ๋ฉด์ ์„ ๋„“๊ฒŒ ํ•˜๊ณ  ์ €์ฑ„๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๋ฉด ๋งค์šฐ ํ™”๋ คํ•œ ๋ฐฐ์ƒ‰์ด ๋œ๋‹ค.', 'C': '๊ณ ๋ช…๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๊ณ  ์ €๋ช…๋„์˜ ์ƒ‰์„ ๋„“๊ฒŒ ํ•˜๋ฉด ๋ช…์‹œ๋„๊ฐ€ ๋‚ฎ์•„ ๋ณด์ธ๋‹ค.', 'D': 'ํ•œ์ƒ‰๊ณ„์˜ ์ƒ‰์„ ๋„“๊ฒŒ ํ•˜๊ณ  ๋‚œ์ƒ‰๊ณ„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๋ฉด ์•ฝ๊ฐ„ ์นจ์šธํ•˜๊ณ  ๊ฐ€๋ผ์•‰์€ ๋“ฏํ•œ ๋А๋‚Œ์ด ๋“ ๋‹ค.', 'Human Accuracy': 0.4521}
test
reasoning
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์˜๋ณต์˜ ๋ฐฐ์ƒ‰์กฐํ™”์— ๋Œ€ํ•œ ์„ค๋ช… ์ค‘ ํ‹€๋ฆฐ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ €์ฑ„๋„์ธ ์ƒ‰์˜ ๋ฉด์ ์„ ๋„“๊ฒŒ ํ•˜๊ณ  ๊ณ ์ฑ„๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•œ๋ฉด ๊ท ํ˜•์ด ๋งž๊ณ  ์ˆ˜์ˆ˜ํ•œ ๋А๋‚Œ์ด ๋“ ๋‹ค. (b) ๊ณ ์ฑ„๋„์ธ ์ƒ‰์˜ ๋ฉด์ ์„ ๋„“๊ฒŒ ํ•˜๊ณ  ์ €์ฑ„๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๋ฉด ๋งค์šฐ ํ™”๋ คํ•œ ๋ฐฐ์ƒ‰์ด ๋œ๋‹ค. (c) ๊ณ ๋ช…๋„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๊ณ  ์ €๋ช…๋„์˜ ์ƒ‰์„ ๋„“๊ฒŒ ํ•˜๋ฉด ๋ช…์‹œ๋„๊ฐ€ ๋‚ฎ์•„ ๋ณด์ธ๋‹ค. (d) ํ•œ์ƒ‰๊ณ„์˜ ์ƒ‰์„ ๋„“๊ฒŒ ํ•˜๊ณ  ๋‚œ์ƒ‰๊ณ„์˜ ์ƒ‰์„ ์ข๊ฒŒ ํ•˜๋ฉด ์•ฝ๊ฐ„ ์นจ์šธํ•˜๊ณ  ๊ฐ€๋ผ์•‰์€ ๋“ฏํ•œ ๋А๋‚Œ์ด ๋“ ๋‹ค. ๋‹ต:
18,913
18,914
MCQA
null
๋””ํ…Œ์ผ์˜ ๊ทœ๋ชจ๋ฅผ ๊ฒฐ์ •ํ•˜๋Š” ์š”์†Œ ์ค‘ ์˜๋ณต์ด ์ฃผ๋Š” ์ „์ฒด์ ์ธ ๋А๋‚Œ์„ ๊ฒฐ์ •ํ•˜๋Š” ๊ฒƒ์€?
['์‹ค๋ฃจ์—ฃ', '์˜ท๊ฐ์˜ ์žฌ์งˆ', '์ฐฉ์šฉ์ž์˜ ์ฒดํ˜•', '์˜ท๊ฐ์˜ ๋ฐฐ์ƒ‰']
์˜ท๊ฐ์˜ ์žฌ์งˆ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Fashion
{'A': '์‹ค๋ฃจ์—ฃ', 'B': '์˜ท๊ฐ์˜ ์žฌ์งˆ', 'C': '์ฐฉ์šฉ์ž์˜ ์ฒดํ˜•', 'D': '์˜ท๊ฐ์˜ ๋ฐฐ์ƒ‰', 'Human Accuracy': 0.2414}
test
reasoning
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋””ํ…Œ์ผ์˜ ๊ทœ๋ชจ๋ฅผ ๊ฒฐ์ •ํ•˜๋Š” ์š”์†Œ ์ค‘ ์˜๋ณต์ด ์ฃผ๋Š” ์ „์ฒด์ ์ธ ๋А๋‚Œ์„ ๊ฒฐ์ •ํ•˜๋Š” ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์‹ค๋ฃจ์—ฃ (b) ์˜ท๊ฐ์˜ ์žฌ์งˆ (c) ์ฐฉ์šฉ์ž์˜ ์ฒดํ˜• (d) ์˜ท๊ฐ์˜ ๋ฐฐ์ƒ‰ ๋‹ต:
18,914
18,915
MCQA
null
์˜๋ฅ˜์—…๊ณ„์˜ ์ž์ฒด์ƒ์‚ฐ๊ณผ ํ•˜์ฒญ์ƒ์‚ฐ์˜ ์žฅ ใ† ๋‹จ์ ์„ ์„ค๋ช…ํ•œ ๊ฒƒ ์ค‘ ์ ์ ˆํ•˜์ง€ ์•Š์€ ๊ฒƒ์€?
['์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ํ’ˆ์งˆ๊ด€๋ฆฌ์™€ ๊ฒ€์‚ฌ๊ฐ€ ์šฉ์ดํ•˜๋‹ค.', '์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ๊ธฐ๊ณ„์„ค๋น„์™€ ์šด์˜๋น„ ๋“ฑ ๊ณ ์ •๋น„์šฉ์ด ๋งŽ์ด ๋“ ๋‹ค.', '์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ์ƒ์‚ฐ๋Ÿ‰์„ ์ˆ˜์š”์— ๋”ฐ๋ผ ์œ ์—ฐํ•˜๊ฒŒ ์กฐ์ ˆํ•  ์ˆ˜ ์žˆ๋‹ค.', 'ํ•˜์ฒญ์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ๋ณธ์‚ฌ์™€ ์•„์›ƒ์†Œ์‹ฑ ์—…์ฒด๊ฐ„์˜ ์ปค๋ฎค๋‹ˆ์ผ€์ด์…˜ ๋ฌธ์ œ๊ฐ€ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋‹ค.']
์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ์ƒ์‚ฐ๋Ÿ‰์„ ์ˆ˜์š”์— ๋”ฐ๋ผ ์œ ์—ฐํ•˜๊ฒŒ ์กฐ์ ˆํ•  ์ˆ˜ ์žˆ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Fashion
{'A': '์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ํ’ˆ์งˆ๊ด€๋ฆฌ์™€ ๊ฒ€์‚ฌ๊ฐ€ ์šฉ์ดํ•˜๋‹ค.', 'B': '์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ๊ธฐ๊ณ„์„ค๋น„์™€ ์šด์˜๋น„ ๋“ฑ ๊ณ ์ •๋น„์šฉ์ด ๋งŽ์ด ๋“ ๋‹ค.', 'C': '์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ์ƒ์‚ฐ๋Ÿ‰์„ ์ˆ˜์š”์— ๋”ฐ๋ผ ์œ ์—ฐํ•˜๊ฒŒ ์กฐ์ ˆํ•  ์ˆ˜ ์žˆ๋‹ค.', 'D': 'ํ•˜์ฒญ์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ๋ณธ์‚ฌ์™€ ์•„์›ƒ์†Œ์‹ฑ ์—…์ฒด๊ฐ„์˜ ์ปค๋ฎค๋‹ˆ์ผ€์ด์…˜ ๋ฌธ์ œ๊ฐ€ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋‹ค.', 'Human Accuracy': 0.25}
test
knowledge
ko
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์˜๋ฅ˜์—…๊ณ„์˜ ์ž์ฒด์ƒ์‚ฐ๊ณผ ํ•˜์ฒญ์ƒ์‚ฐ์˜ ์žฅ ใ† ๋‹จ์ ์„ ์„ค๋ช…ํ•œ ๊ฒƒ ์ค‘ ์ ์ ˆํ•˜์ง€ ์•Š์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ํ’ˆ์งˆ๊ด€๋ฆฌ์™€ ๊ฒ€์‚ฌ๊ฐ€ ์šฉ์ดํ•˜๋‹ค. (b) ์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ๊ธฐ๊ณ„์„ค๋น„์™€ ์šด์˜๋น„ ๋“ฑ ๊ณ ์ •๋น„์šฉ์ด ๋งŽ์ด ๋“ ๋‹ค. (c) ์ž์ฒด์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ์ƒ์‚ฐ๋Ÿ‰์„ ์ˆ˜์š”์— ๋”ฐ๋ผ ์œ ์—ฐํ•˜๊ฒŒ ์กฐ์ ˆํ•  ์ˆ˜ ์žˆ๋‹ค. (d) ํ•˜์ฒญ์ƒ์‚ฐ์˜ ๊ฒฝ์šฐ ๋ณธ์‚ฌ์™€ ์•„์›ƒ์†Œ์‹ฑ ์—…์ฒด๊ฐ„์˜ ์ปค๋ฎค๋‹ˆ์ผ€์ด์…˜ ๋ฌธ์ œ๊ฐ€ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋‹ค. ๋‹ต:
18,915
18,916
MCQA
null
ํ’€๊ธฐ๊ฐ€ ์žˆ๋Š” ์˜ท๊ฐ์˜ ์ •๋ฆฌ ๋ฐฉ๋ฒ•์œผ๋กœ ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๊ฒƒ์€?
['์ „์ฒด๋ฅผ ๋ฌผ์— ๋‹ด๊ฐ”๋‹ค๊ฐ€ ์ถ•์ถ•ํ•  ๋•Œ ํ’€๊ธฐ ์—†๋Š” ํ—๊ฒŠ์„ ๋Œ€๊ณ  ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.', 'ํ’€๊ธฐ๊ฐ€ ๋น ์ง€์ง€ ์•Š๋„๋ก ๋ฌผ์„ ๋ฟŒ๋ฆฐ ํ›„ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.', 'ํ’€๊ธฐ๊ฐ€ ์žˆ์œผ๋ฏ€๋กœ ๋งˆ๋ฅธ ์ƒํƒœ์—์„œ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.', '์ „์ฒด๋ฅผ ๋ฌผ์— ๋‹ด๊ถœ๋‹ค๊ฐ€ ๊ฑด์ ธ์„œ ํƒˆ์ˆ˜์‹œ์ผœ ์™„์ „ํžˆ ๊ฑด์กฐ์‹œํ‚จ ํ›„ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.']
์ „์ฒด๋ฅผ ๋ฌผ์— ๋‹ด๊ฐ”๋‹ค๊ฐ€ ์ถ•์ถ•ํ•  ๋•Œ ํ’€๊ธฐ ์—†๋Š” ํ—๊ฒŠ์„ ๋Œ€๊ณ  ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '1'}
Fashion
{'A': '์ „์ฒด๋ฅผ ๋ฌผ์— ๋‹ด๊ฐ”๋‹ค๊ฐ€ ์ถ•์ถ•ํ•  ๋•Œ ํ’€๊ธฐ ์—†๋Š” ํ—๊ฒŠ์„ ๋Œ€๊ณ  ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.', 'B': 'ํ’€๊ธฐ๊ฐ€ ๋น ์ง€์ง€ ์•Š๋„๋ก ๋ฌผ์„ ๋ฟŒ๋ฆฐ ํ›„ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.', 'C': 'ํ’€๊ธฐ๊ฐ€ ์žˆ์œผ๋ฏ€๋กœ ๋งˆ๋ฅธ ์ƒํƒœ์—์„œ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.', 'D': '์ „์ฒด๋ฅผ ๋ฌผ์— ๋‹ด๊ถœ๋‹ค๊ฐ€ ๊ฑด์ ธ์„œ ํƒˆ์ˆ˜์‹œ์ผœ ์™„์ „ํžˆ ๊ฑด์กฐ์‹œํ‚จ ํ›„ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค.', 'Human Accuracy': 0.5079}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํ’€๊ธฐ๊ฐ€ ์žˆ๋Š” ์˜ท๊ฐ์˜ ์ •๋ฆฌ ๋ฐฉ๋ฒ•์œผ๋กœ ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ „์ฒด๋ฅผ ๋ฌผ์— ๋‹ด๊ฐ”๋‹ค๊ฐ€ ์ถ•์ถ•ํ•  ๋•Œ ํ’€๊ธฐ ์—†๋Š” ํ—๊ฒŠ์„ ๋Œ€๊ณ  ๋‹ค๋ฆผ์งˆํ•œ๋‹ค. (b) ํ’€๊ธฐ๊ฐ€ ๋น ์ง€์ง€ ์•Š๋„๋ก ๋ฌผ์„ ๋ฟŒ๋ฆฐ ํ›„ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค. (c) ํ’€๊ธฐ๊ฐ€ ์žˆ์œผ๋ฏ€๋กœ ๋งˆ๋ฅธ ์ƒํƒœ์—์„œ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค. (d) ์ „์ฒด๋ฅผ ๋ฌผ์— ๋‹ด๊ถœ๋‹ค๊ฐ€ ๊ฑด์ ธ์„œ ํƒˆ์ˆ˜์‹œ์ผœ ์™„์ „ํžˆ ๊ฑด์กฐ์‹œํ‚จ ํ›„ ๋‹ค๋ฆผ์งˆํ•œ๋‹ค. ๋‹ต:
18,916
18,917
MCQA
null
์ƒ๋ฐ˜์‹  ๋ฐ˜์‹ ์ฒด์˜ ์ œ๋„๋ฒ•์œผ๋กœ ๊ฐ€์žฅ ์˜ณ์€ ๊ฒƒ์€?
['๋“ฑํ’ˆ์€ ์ค„์ž„ ๋“ฑ๊ธธ์ด๋Š” ๋Š˜์ž„', '์•žํ’ˆ์€ ์ค„์ž„ ์•ž๊ธธ์ด๋Š” ๋Š˜์ž„', '๋“ฑ๊ธธ์ด๋Š” ์ค„์ž„ ์•žํ’ˆ์€ ๋Š˜์ž„', '์•ž๊ธธ์ด๋Š” ์ค„์ž„ ๋“ฑํ’ˆ์€ ๋Š˜์ž„']
๋“ฑ๊ธธ์ด๋Š” ์ค„์ž„ ์•žํ’ˆ์€ ๋Š˜์ž„
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Fashion
{'A': '๋“ฑํ’ˆ์€ ์ค„์ž„ ๋“ฑ๊ธธ์ด๋Š” ๋Š˜์ž„', 'B': '์•žํ’ˆ์€ ์ค„์ž„ ์•ž๊ธธ์ด๋Š” ๋Š˜์ž„', 'C': '๋“ฑ๊ธธ์ด๋Š” ์ค„์ž„ ์•žํ’ˆ์€ ๋Š˜์ž„', 'D': '์•ž๊ธธ์ด๋Š” ์ค„์ž„ ๋“ฑํ’ˆ์€ ๋Š˜์ž„', 'Human Accuracy': 0.5667}
test
knowledge
ko
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ƒ๋ฐ˜์‹  ๋ฐ˜์‹ ์ฒด์˜ ์ œ๋„๋ฒ•์œผ๋กœ ๊ฐ€์žฅ ์˜ณ์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ๋“ฑํ’ˆ์€ ์ค„์ž„ ๋“ฑ๊ธธ์ด๋Š” ๋Š˜์ž„ (b) ์•žํ’ˆ์€ ์ค„์ž„ ์•ž๊ธธ์ด๋Š” ๋Š˜์ž„ (c) ๋“ฑ๊ธธ์ด๋Š” ์ค„์ž„ ์•žํ’ˆ์€ ๋Š˜์ž„ (d) ์•ž๊ธธ์ด๋Š” ์ค„์ž„ ๋“ฑํ’ˆ์€ ๋Š˜์ž„ ๋‹ต:
18,917
18,918
MCQA
null
์–‘๋ชจ์„ฌ์œ ์˜ ๊ฒ‰๋น„๋Š˜(scale)๊ณผ ๋ฐ€์ ‘ํ•œ ๊ด€๊ณ„๊ฐ€ ์—†๋Š” ๊ฒƒ์€?
['๊ด‘ํƒ ๋ฐ ์–‘ํ„ธ๋ณดํ˜ธ', '์„ธํŠธ์„ฑ ๋ฐ ํก์ˆ˜์„ฑ', 'ํƒ„์„ฑ ๋ฐ ์ˆ˜์ถ•์„ฑ', '์„ฌ์œ ๊ฐ„์˜ ํฌํ•ฉ์„ฑ ๋ฐ ๋ฐฉ์ ์„ฑ']
์„ธํŠธ์„ฑ ๋ฐ ํก์ˆ˜์„ฑ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Fashion
{'A': '๊ด‘ํƒ ๋ฐ ์–‘ํ„ธ๋ณดํ˜ธ', 'B': '์„ธํŠธ์„ฑ ๋ฐ ํก์ˆ˜์„ฑ', 'C': 'ํƒ„์„ฑ ๋ฐ ์ˆ˜์ถ•์„ฑ', 'D': '์„ฌ์œ ๊ฐ„์˜ ํฌํ•ฉ์„ฑ ๋ฐ ๋ฐฉ์ ์„ฑ', 'Human Accuracy': 0.25}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์–‘๋ชจ์„ฌ์œ ์˜ ๊ฒ‰๋น„๋Š˜(scale)๊ณผ ๋ฐ€์ ‘ํ•œ ๊ด€๊ณ„๊ฐ€ ์—†๋Š” ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ๊ด‘ํƒ ๋ฐ ์–‘ํ„ธ๋ณดํ˜ธ (b) ์„ธํŠธ์„ฑ ๋ฐ ํก์ˆ˜์„ฑ (c) ํƒ„์„ฑ ๋ฐ ์ˆ˜์ถ•์„ฑ (d) ์„ฌ์œ ๊ฐ„์˜ ํฌํ•ฉ์„ฑ ๋ฐ ๋ฐฉ์ ์„ฑ ๋‹ต:
18,918
18,919
MCQA
null
๋“œ๋ผ์ดํด๋ฆฌ๋‹ ๋งˆ๋ฌด๋ฆฌ ๊ธฐ๊ณ„์˜ ํ˜•์‹๊ณผ ์ข…๋ฅ˜๊ฐ€ ์˜ณ๊ฒŒ ์—ฐ๊ฒฐ๋œ ๊ฒƒ์€?
['์ŠคํŒ€ํ˜• - ์˜คํ”„์„ธํŠธ ํ”„๋ ˆ์Šค', 'ํ”„๋ ˆ์Šคํ˜• - ํŒฌ์ธ ํ† ํผ', 'ํ”„๋ ˆ์Šคํ˜• - ์ŠคํŒ€๋ฐ•์Šค', 'ํผ๋จธํ˜• - ์ธ์ฒดํ”„๋ ˆ์Šค']
ํผ๋จธํ˜• - ์ธ์ฒดํ”„๋ ˆ์Šค
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Fashion
{'A': '์ŠคํŒ€ํ˜• - ์˜คํ”„์„ธํŠธ ํ”„๋ ˆ์Šค', 'B': 'ํ”„๋ ˆ์Šคํ˜• - ํŒฌ์ธ ํ† ํผ', 'C': 'ํ”„๋ ˆ์Šคํ˜• - ์ŠคํŒ€๋ฐ•์Šค', 'D': 'ํผ๋จธํ˜• - ์ธ์ฒดํ”„๋ ˆ์Šค', 'Human Accuracy': 0.5357000000000001}
test
knowledge
general
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋“œ๋ผ์ดํด๋ฆฌ๋‹ ๋งˆ๋ฌด๋ฆฌ ๊ธฐ๊ณ„์˜ ํ˜•์‹๊ณผ ์ข…๋ฅ˜๊ฐ€ ์˜ณ๊ฒŒ ์—ฐ๊ฒฐ๋œ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ŠคํŒ€ํ˜• - ์˜คํ”„์„ธํŠธ ํ”„๋ ˆ์Šค (b) ํ”„๋ ˆ์Šคํ˜• - ํŒฌ์ธ ํ† ํผ (c) ํ”„๋ ˆ์Šคํ˜• - ์ŠคํŒ€๋ฐ•์Šค (d) ํผ๋จธํ˜• - ์ธ์ฒดํ”„๋ ˆ์Šค ๋‹ต:
18,919
18,920
MCQA
null
ํ‰ํ™”, ์˜์›, ์•ˆ์‹์˜ ๋А๋‚Œ์„ ์ฃผ๋Š” ์ƒ‰์€?
['ํŒŒ๋ž‘, ๋ณด๋ผ', '๋…น์ƒ‰, ์ฒญ๋ก', '์ž์ฃผ. ๋ณด๋ผ', 'ํšŒ์ƒ‰, ํฐ์ƒ‰']
๋…น์ƒ‰, ์ฒญ๋ก
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Fashion
{'A': 'ํŒŒ๋ž‘, ๋ณด๋ผ', 'B': '๋…น์ƒ‰, ์ฒญ๋ก', 'C': '์ž์ฃผ. ๋ณด๋ผ', 'D': 'ํšŒ์ƒ‰, ํฐ์ƒ‰', 'Human Accuracy': 0.434799999999999}
test
knowledge
ko
['arts&sports/fashion']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํ‰ํ™”, ์˜์›, ์•ˆ์‹์˜ ๋А๋‚Œ์„ ์ฃผ๋Š” ์ƒ‰์€? ๋ณด๊ธฐ: (a) ํŒŒ๋ž‘, ๋ณด๋ผ (b) ๋…น์ƒ‰, ์ฒญ๋ก (c) ์ž์ฃผ. ๋ณด๋ผ (d) ํšŒ์ƒ‰, ํฐ์ƒ‰ ๋‹ต:
18,920
18,921
MCQA
null
๋ž˜๋”๋„(Ladder Diagram) ํ˜น์€ ์‹œํ€€์Šค ํšŒ๋กœ๋„์— ์˜ํ•˜์—ฌ ์ž‘์„ฑ๋œ ์ œ์–ดํšŒ๋กœ๋ฅผ ๋กœ์ง ์‹ฌ๋ฒŒ ์–ธ์–ด๋กœ ํ”„๋กœ๊ทธ๋žจ์„ ์ž‘์„ฑํ•˜์—ฌ ์‹œํ€€์Šค ์ œ์–ด๊ณ„๋ฅผ ํ‘œ์‹œํ•˜๋Š” ๋ฐฉ๋ฒ•์€?
['๋ž˜๋”๋„', '์ฝ”๋”ฉ', '์ „๊ฐœ์ ‘์†๋„', '๋…ผ๋ฆฌ๋„']
์ฝ”๋”ฉ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Industrial Engineer
{'A': '๋ž˜๋”๋„', 'B': '์ฝ”๋”ฉ', 'C': '์ „๊ฐœ์ ‘์†๋„', 'D': '๋…ผ๋ฆฌ๋„', 'Human Accuracy': 0.25}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋ž˜๋”๋„(Ladder Diagram) ํ˜น์€ ์‹œํ€€์Šค ํšŒ๋กœ๋„์— ์˜ํ•˜์—ฌ ์ž‘์„ฑ๋œ ์ œ์–ดํšŒ๋กœ๋ฅผ ๋กœ์ง ์‹ฌ๋ฒŒ ์–ธ์–ด๋กœ ํ”„๋กœ๊ทธ๋žจ์„ ์ž‘์„ฑํ•˜์—ฌ ์‹œํ€€์Šค ์ œ์–ด๊ณ„๋ฅผ ํ‘œ์‹œํ•˜๋Š” ๋ฐฉ๋ฒ•์€? ๋ณด๊ธฐ: (a) ๋ž˜๋”๋„ (b) ์ฝ”๋”ฉ (c) ์ „๊ฐœ์ ‘์†๋„ (d) ๋…ผ๋ฆฌ๋„ ๋‹ต:
18,921
18,922
MCQA
null
ํ”„๋กœ๊ทธ๋žจ ์ž…๋ ฅ์žฅ์น˜๋ฅผ ์ด์šฉํ•˜์—ฌ ์‹œํ€€์Šค ํ”„๋กœ๊ทธ๋žจ์˜ ๋‚ด์šฉ์„ PLC์˜ ๋ฉ”๋ชจ๋ฆฌ์— ์ž…๋ ฅํ•˜๋Š” ๊ฒƒ์€?
['์ฝ”๋”ฉ', '๋กœ๋”ฉ', '์‹œ๋ฌผ๋ ˆ์ด์…˜', 'AND']
๋กœ๋”ฉ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Industrial Engineer
{'A': '์ฝ”๋”ฉ', 'B': '๋กœ๋”ฉ', 'C': '์‹œ๋ฌผ๋ ˆ์ด์…˜', 'D': 'AND', 'Human Accuracy': 0.25}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํ”„๋กœ๊ทธ๋žจ ์ž…๋ ฅ์žฅ์น˜๋ฅผ ์ด์šฉํ•˜์—ฌ ์‹œํ€€์Šค ํ”„๋กœ๊ทธ๋žจ์˜ ๋‚ด์šฉ์„ PLC์˜ ๋ฉ”๋ชจ๋ฆฌ์— ์ž…๋ ฅํ•˜๋Š” ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ฝ”๋”ฉ (b) ๋กœ๋”ฉ (c) ์‹œ๋ฌผ๋ ˆ์ด์…˜ (d) AND ๋‹ต:
18,922
18,923
MCQA
null
๊ตญ์ œํ‘œ์ค€ํ™”๊ธฐ๊ตฌ(ISO)์—์„œ ์ •์˜ํ•œ ํ‘œ์ค€ ๊ธฐํ˜ธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ํ‘œํ˜„ํ•˜๋Š” ๋ฐฉ๋ฒ•์€?
['์˜์‚ฌ์ฝ”๋“œ', '์ˆœ์„œ๋„', '์ž์—ฐ์–ด', 'ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด']
์ˆœ์„œ๋„
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Computer Science
{'A': '์˜์‚ฌ์ฝ”๋“œ', 'B': '์ˆœ์„œ๋„', 'C': '์ž์—ฐ์–ด', 'D': 'ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด', 'Human Accuracy': 0.1}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๊ตญ์ œํ‘œ์ค€ํ™”๊ธฐ๊ตฌ(ISO)์—์„œ ์ •์˜ํ•œ ํ‘œ์ค€ ๊ธฐํ˜ธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ํ‘œํ˜„ํ•˜๋Š” ๋ฐฉ๋ฒ•์€? ๋ณด๊ธฐ: (a) ์˜์‚ฌ์ฝ”๋“œ (b) ์ˆœ์„œ๋„ (c) ์ž์—ฐ์–ด (d) ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด ๋‹ต:
18,923
18,924
MCQA
null
๊ณ ๊ธ‰์–ธ์–ด๋‚˜ ์ฝ”๋“œํ™”๋œ ์ค‘๊ฐ„์–ธ์–ด๋ฅผ ์ž…๋ ฅ๋ฐ›์•„ ๋ชฉ์ ํ”„๋กœ๊ทธ๋žจ ์ƒ์„ฑ์—†์ด ์ง์ ‘ ๊ธฐ๊ณ„์–ด๋ฅผ ์ƒ์„ฑ, ์‹คํ–‰ํ•ด์ฃผ๋Š” ํ”„๋กœ๊ทธ๋žจ์€?
['์–ด์…ˆ๋ธ”๋Ÿฌ(Assembler)', '์ธํ„ฐํ”„๋ฆฌํ„ฐ(Interpreter)', '์ปดํŒŒ์ผ๋Ÿฌ(Compiler)', 'ํฌ๋กœ์Šค ์ปดํŒŒ์ผ๋Ÿฌ(Cross Compiler)']
์ธํ„ฐํ”„๋ฆฌํ„ฐ(Interpreter)
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Computer Science
{'A': '์–ด์…ˆ๋ธ”๋Ÿฌ(Assembler)', 'B': '์ธํ„ฐํ”„๋ฆฌํ„ฐ(Interpreter)', 'C': '์ปดํŒŒ์ผ๋Ÿฌ(Compiler)', 'D': 'ํฌ๋กœ์Šค ์ปดํŒŒ์ผ๋Ÿฌ(Cross Compiler)', 'Human Accuracy': 0.111099999999999}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๊ณ ๊ธ‰์–ธ์–ด๋‚˜ ์ฝ”๋“œํ™”๋œ ์ค‘๊ฐ„์–ธ์–ด๋ฅผ ์ž…๋ ฅ๋ฐ›์•„ ๋ชฉ์ ํ”„๋กœ๊ทธ๋žจ ์ƒ์„ฑ์—†์ด ์ง์ ‘ ๊ธฐ๊ณ„์–ด๋ฅผ ์ƒ์„ฑ, ์‹คํ–‰ํ•ด์ฃผ๋Š” ํ”„๋กœ๊ทธ๋žจ์€? ๋ณด๊ธฐ: (a) ์–ด์…ˆ๋ธ”๋Ÿฌ(Assembler) (b) ์ธํ„ฐํ”„๋ฆฌํ„ฐ(Interpreter) (c) ์ปดํŒŒ์ผ๋Ÿฌ(Compiler) (d) ํฌ๋กœ์Šค ์ปดํŒŒ์ผ๋Ÿฌ(Cross Compiler) ๋‹ต:
18,924
18,925
MCQA
null
์ œํ’ˆ๋””์ž์ธ์˜ ์ฐฝ์กฐ์  ๋ฐœ์ƒ ๋ฐฉ๋ฒ•์˜ ์‹œ๋„คํ‹ฑ์Šค(Synectics)์‚ฌ๊ณ  ๋ฐฉ๋ฒ•์ด ์•„๋‹Œ ๊ฒƒ์€?
['์ง์ ‘์  ์œ ์ถ”', '์˜์ธ์  ์œ ์ถ”', '๊ฐ„์ ‘์  ์œ ์ถ”', '์ƒ์ง•์  ์œ ์ถ”']
๊ฐ„์ ‘์  ์œ ์ถ”
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Computer Science
{'A': '์ง์ ‘์  ์œ ์ถ”', 'B': '์˜์ธ์  ์œ ์ถ”', 'C': '๊ฐ„์ ‘์  ์œ ์ถ”', 'D': '์ƒ์ง•์  ์œ ์ถ”', 'Human Accuracy': 0.1429}
test
knowledge
general
['tech/coding', 'tech/materials']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ œํ’ˆ๋””์ž์ธ์˜ ์ฐฝ์กฐ์  ๋ฐœ์ƒ ๋ฐฉ๋ฒ•์˜ ์‹œ๋„คํ‹ฑ์Šค(Synectics)์‚ฌ๊ณ  ๋ฐฉ๋ฒ•์ด ์•„๋‹Œ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ง์ ‘์  ์œ ์ถ” (b) ์˜์ธ์  ์œ ์ถ” (c) ๊ฐ„์ ‘์  ์œ ์ถ” (d) ์ƒ์ง•์  ์œ ์ถ” ๋‹ต:
18,925
18,926
MCQA
null
๋„Œ์›จ์ดํ‹ฐ๋“œ ์ฝ”๋“œ(Non-weighted code)๋Š”?
['51111 ์ฝ”๋“œ', '2421 ์ฝ”๋“œ', '8421 ์ฝ”๋“œ', '3์ดˆ๊ณผ ์ฝ”๋“œ']
3์ดˆ๊ณผ ์ฝ”๋“œ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Computer Science
{'A': '51111 ์ฝ”๋“œ', 'B': '2421 ์ฝ”๋“œ', 'C': '8421 ์ฝ”๋“œ', 'D': '3์ดˆ๊ณผ ์ฝ”๋“œ', 'Human Accuracy': 0.1429}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋„Œ์›จ์ดํ‹ฐ๋“œ ์ฝ”๋“œ(Non-weighted code)๋Š”? ๋ณด๊ธฐ: (a) 51111 ์ฝ”๋“œ (b) 2421 ์ฝ”๋“œ (c) 8421 ์ฝ”๋“œ (d) 3์ดˆ๊ณผ ์ฝ”๋“œ ๋‹ต:
18,926
18,927
MCQA
null
์‚ฌ๋žŒ์˜ ์†์— ์˜ํ•˜์—ฌ ์ฝ”๋“œ๋ฅผ ๊ธฐ์ž…ํ•˜๋Š” ๊ฒฝ์šฐ์— ํ‹€๋ฆฌ์ง€ ์•Š๋„๋ก ํ•˜๊ธฐ ์œ„ํ•˜์—ฌ ์‚ฌ์šฉ๋˜๋Š” ๋ฐฉ๋ฒ•๊ณผ ๊ฑฐ๋ฆฌ๊ฐ€ ๋จผ ๊ฒƒ์€?
['๊ณ ๋ฌด์ธ์˜ ์‚ฌ์šฉ', '์‚ฌ์ „ ์ธ์‡„', '๊ต์œก ํ›ˆ๋ จ', '์ปดํ“จํ„ฐ์— ์˜ํ•œ ์ฝ”๋“œ ์„ค๊ณ„']
๊ต์œก ํ›ˆ๋ จ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Computer Science
{'A': '๊ณ ๋ฌด์ธ์˜ ์‚ฌ์šฉ', 'B': '์‚ฌ์ „ ์ธ์‡„', 'C': '๊ต์œก ํ›ˆ๋ จ', 'D': '์ปดํ“จํ„ฐ์— ์˜ํ•œ ์ฝ”๋“œ ์„ค๊ณ„', 'Human Accuracy': 0.1429}
test
reasoning
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์‚ฌ๋žŒ์˜ ์†์— ์˜ํ•˜์—ฌ ์ฝ”๋“œ๋ฅผ ๊ธฐ์ž…ํ•˜๋Š” ๊ฒฝ์šฐ์— ํ‹€๋ฆฌ์ง€ ์•Š๋„๋ก ํ•˜๊ธฐ ์œ„ํ•˜์—ฌ ์‚ฌ์šฉ๋˜๋Š” ๋ฐฉ๋ฒ•๊ณผ ๊ฑฐ๋ฆฌ๊ฐ€ ๋จผ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ๊ณ ๋ฌด์ธ์˜ ์‚ฌ์šฉ (b) ์‚ฌ์ „ ์ธ์‡„ (c) ๊ต์œก ํ›ˆ๋ จ (d) ์ปดํ“จํ„ฐ์— ์˜ํ•œ ์ฝ”๋“œ ์„ค๊ณ„ ๋‹ต:
18,927
18,928
MCQA
null
์ฝ”๋“œ ์„ค๊ณ„์˜ ์š”๊ตฌ์‚ฌํ•ญ์œผ๋กœ ํ‹€๋ฆฐ ๊ฒƒ์€?
['์ฝ”๋“œ์˜ ์ž๋ฆฟ์ˆ˜๋Š” ๋˜๋„๋ก ์งง๊ณ  ๊ฐ„๊ฒฐํ•ด์•ผ ํ•œ๋‹ค.', '์ฝ”๋“œ์™€ ๋ฐ์ดํ„ฐ๋Š” 1:N์˜ ๋Œ€์‘๊ด€๊ณ„๊ฐ€ ์žˆ๋Š” ๊ฒƒ์ฒ˜๋Ÿผ ๋‹ค์–‘์„ฑ์„ ๊ฐ€์ ธ์•ผ ํ•œ๋‹ค.', '์‰ฝ๊ฒŒ ๊ทธ๋ฃน์˜ ํ˜•ํƒœ๋กœ ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ๊ฑฐ๋‚˜ ๋ถ„๋ฅ˜๊ฐ€ ์‰ฌ์–ด์•ผ ํ•œ๋‹ค.', '์ผ๊ด€์„ฑ์ด ์žˆ์–ด์•ผ ํ•œ๋‹ค.']
์ฝ”๋“œ์™€ ๋ฐ์ดํ„ฐ๋Š” 1:N์˜ ๋Œ€์‘๊ด€๊ณ„๊ฐ€ ์žˆ๋Š” ๊ฒƒ์ฒ˜๋Ÿผ ๋‹ค์–‘์„ฑ์„ ๊ฐ€์ ธ์•ผ ํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Computer Science
{'A': '์ฝ”๋“œ์˜ ์ž๋ฆฟ์ˆ˜๋Š” ๋˜๋„๋ก ์งง๊ณ  ๊ฐ„๊ฒฐํ•ด์•ผ ํ•œ๋‹ค.', 'B': '์ฝ”๋“œ์™€ ๋ฐ์ดํ„ฐ๋Š” 1:N์˜ ๋Œ€์‘๊ด€๊ณ„๊ฐ€ ์žˆ๋Š” ๊ฒƒ์ฒ˜๋Ÿผ ๋‹ค์–‘์„ฑ์„ ๊ฐ€์ ธ์•ผ ํ•œ๋‹ค.', 'C': '์‰ฝ๊ฒŒ ๊ทธ๋ฃน์˜ ํ˜•ํƒœ๋กœ ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ๊ฑฐ๋‚˜ ๋ถ„๋ฅ˜๊ฐ€ ์‰ฌ์–ด์•ผ ํ•œ๋‹ค.', 'D': '์ผ๊ด€์„ฑ์ด ์žˆ์–ด์•ผ ํ•œ๋‹ค.', 'Human Accuracy': 0.157899999999999}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ฝ”๋“œ ์„ค๊ณ„์˜ ์š”๊ตฌ์‚ฌํ•ญ์œผ๋กœ ํ‹€๋ฆฐ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ฝ”๋“œ์˜ ์ž๋ฆฟ์ˆ˜๋Š” ๋˜๋„๋ก ์งง๊ณ  ๊ฐ„๊ฒฐํ•ด์•ผ ํ•œ๋‹ค. (b) ์ฝ”๋“œ์™€ ๋ฐ์ดํ„ฐ๋Š” 1:N์˜ ๋Œ€์‘๊ด€๊ณ„๊ฐ€ ์žˆ๋Š” ๊ฒƒ์ฒ˜๋Ÿผ ๋‹ค์–‘์„ฑ์„ ๊ฐ€์ ธ์•ผ ํ•œ๋‹ค. (c) ์‰ฝ๊ฒŒ ๊ทธ๋ฃน์˜ ํ˜•ํƒœ๋กœ ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ๊ฑฐ๋‚˜ ๋ถ„๋ฅ˜๊ฐ€ ์‰ฌ์–ด์•ผ ํ•œ๋‹ค. (d) ์ผ๊ด€์„ฑ์ด ์žˆ์–ด์•ผ ํ•œ๋‹ค. ๋‹ต:
18,928
18,929
MCQA
null
์‹ค๋‚ด๋””์ž์ธ์˜ ์„ค๊ณ„๋‹จ๊ณ„์—์„œ ํŠน์ˆ˜ํ•œ ๊ธฐ์ˆ  ๋ถ„์•ผ์˜ ๋ถ€๋ถ„์  ์„ค๊ณ„๋ฅผ ์ „๋ฌธ ์—…์ฒด๊ฐ€ ์ž‘์„ฑํ•˜์—ฌ ์ œ์‹œํ•˜๋Š” ๋„๋ฉด์€?
['์›Œํ‚น ๋“œ๋กœ์ž‰', '์ƒต ๋“œ๋กœ์ž‰', 'ํ”„๋ฆฌํ•ธ๋“œ ๋“œ๋กœ์ž‰', '์ปดํ“จํ„ฐ ๋“œ๋กœ์ž‰']
์ƒต ๋“œ๋กœ์ž‰
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Computer Science
{'A': '์›Œํ‚น ๋“œ๋กœ์ž‰', 'B': '์ƒต ๋“œ๋กœ์ž‰', 'C': 'ํ”„๋ฆฌํ•ธ๋“œ ๋“œ๋กœ์ž‰', 'D': '์ปดํ“จํ„ฐ ๋“œ๋กœ์ž‰', 'Human Accuracy': 0.16670000000000001}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์‹ค๋‚ด๋””์ž์ธ์˜ ์„ค๊ณ„๋‹จ๊ณ„์—์„œ ํŠน์ˆ˜ํ•œ ๊ธฐ์ˆ  ๋ถ„์•ผ์˜ ๋ถ€๋ถ„์  ์„ค๊ณ„๋ฅผ ์ „๋ฌธ ์—…์ฒด๊ฐ€ ์ž‘์„ฑํ•˜์—ฌ ์ œ์‹œํ•˜๋Š” ๋„๋ฉด์€? ๋ณด๊ธฐ: (a) ์›Œํ‚น ๋“œ๋กœ์ž‰ (b) ์ƒต ๋“œ๋กœ์ž‰ (c) ํ”„๋ฆฌํ•ธ๋“œ ๋“œ๋กœ์ž‰ (d) ์ปดํ“จํ„ฐ ๋“œ๋กœ์ž‰ ๋‹ต:
18,929
18,930
MCQA
null
๊ตฌ์กฐ์  ํ”„๋กœ๊ทธ๋ž˜๋ฐ์—์„œ ์‚ฌ์šฉํ•˜๋Š” ๊ธฐ๋ณธ์ ์ธ ์ œ์–ด๊ตฌ์กฐ์— ํ•ด๋‹นํ•˜์ง€ ์•Š๋Š” ๊ฒƒ์€?
['์ˆœ์ฐจ(sequence)', '๋ฐ˜๋ณต(iteration)', 'ํ˜ธ์ถœ(call)', '์„ ํƒ(selection)']
ํ˜ธ์ถœ(call)
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Computer Science
{'A': '์ˆœ์ฐจ(sequence)', 'B': '๋ฐ˜๋ณต(iteration)', 'C': 'ํ˜ธ์ถœ(call)', 'D': '์„ ํƒ(selection)', 'Human Accuracy': 0.16670000000000001}
test
reasoning
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๊ตฌ์กฐ์  ํ”„๋กœ๊ทธ๋ž˜๋ฐ์—์„œ ์‚ฌ์šฉํ•˜๋Š” ๊ธฐ๋ณธ์ ์ธ ์ œ์–ด๊ตฌ์กฐ์— ํ•ด๋‹นํ•˜์ง€ ์•Š๋Š” ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ˆœ์ฐจ(sequence) (b) ๋ฐ˜๋ณต(iteration) (c) ํ˜ธ์ถœ(call) (d) ์„ ํƒ(selection) ๋‹ต:
18,930
18,931
MCQA
null
์˜ค๋ฅ˜ ๊ฒ€์ถœ์šฉ ์ฝ”๋“œ๊ฐ€ ์•„๋‹Œ ๊ฒƒ์€?
['ํ•ด๋ฐ ์ฝ”๋“œ', 'ํŒจ๋ฆฌํ‹ฐ ๊ฒ€์‚ฌ ์ฝ”๋“œ', 'Biquinary ์ฝ”๋“œ', 'Excess-3 ์ฝ”๋“œ']
Excess-3 ์ฝ”๋“œ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Computer Science
{'A': 'ํ•ด๋ฐ ์ฝ”๋“œ', 'B': 'ํŒจ๋ฆฌํ‹ฐ ๊ฒ€์‚ฌ ์ฝ”๋“œ', 'C': 'Biquinary ์ฝ”๋“œ', 'D': 'Excess-3 ์ฝ”๋“œ', 'Human Accuracy': 0.16670000000000001}
test
reasoning
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์˜ค๋ฅ˜ ๊ฒ€์ถœ์šฉ ์ฝ”๋“œ๊ฐ€ ์•„๋‹Œ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ํ•ด๋ฐ ์ฝ”๋“œ (b) ํŒจ๋ฆฌํ‹ฐ ๊ฒ€์‚ฌ ์ฝ”๋“œ (c) Biquinary ์ฝ”๋“œ (d) Excess-3 ์ฝ”๋“œ ๋‹ต:
18,931
18,932
MCQA
null
์›์‹œ ํ”„๋กœ๊ทธ๋žจ(Source Program)์ด๋ž€?
['๋ฒˆ์—ญ์šฉ ํ”„๋กœ์„ธ์„œ์— ์˜ํ•ด ์ƒ์„ฑ๋œ ๊ฒƒ', '๊ธฐ๊ณ„๊ฐ€ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ๊ณ„์–ด๋กœ ๋œ ๊ฒƒ', '์‚ฌ์šฉ์ž๊ฐ€ ์ž‘์„ฑํ•œ ์ปดํŒŒ์ผ๋Ÿฌ ์–ธ์–ด๋กœ ๋œ ๊ฒƒ', '๋กœ๋”(Loader)์— ์˜ํ•ด ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ๊ฒƒ']
์‚ฌ์šฉ์ž๊ฐ€ ์ž‘์„ฑํ•œ ์ปดํŒŒ์ผ๋Ÿฌ ์–ธ์–ด๋กœ ๋œ ๊ฒƒ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Computer Science
{'A': '๋ฒˆ์—ญ์šฉ ํ”„๋กœ์„ธ์„œ์— ์˜ํ•ด ์ƒ์„ฑ๋œ ๊ฒƒ', 'B': '๊ธฐ๊ณ„๊ฐ€ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ๊ณ„์–ด๋กœ ๋œ ๊ฒƒ', 'C': '์‚ฌ์šฉ์ž๊ฐ€ ์ž‘์„ฑํ•œ ์ปดํŒŒ์ผ๋Ÿฌ ์–ธ์–ด๋กœ ๋œ ๊ฒƒ', 'D': '๋กœ๋”(Loader)์— ์˜ํ•ด ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ๊ฒƒ', 'Human Accuracy': 0.2}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์›์‹œ ํ”„๋กœ๊ทธ๋žจ(Source Program)์ด๋ž€? ๋ณด๊ธฐ: (a) ๋ฒˆ์—ญ์šฉ ํ”„๋กœ์„ธ์„œ์— ์˜ํ•ด ์ƒ์„ฑ๋œ ๊ฒƒ (b) ๊ธฐ๊ณ„๊ฐ€ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ๊ณ„์–ด๋กœ ๋œ ๊ฒƒ (c) ์‚ฌ์šฉ์ž๊ฐ€ ์ž‘์„ฑํ•œ ์ปดํŒŒ์ผ๋Ÿฌ ์–ธ์–ด๋กœ ๋œ ๊ฒƒ (d) ๋กœ๋”(Loader)์— ์˜ํ•ด ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ๊ฒƒ ๋‹ต:
18,932
18,933
MCQA
null
์ฝ”๋“œ ์„ค๊ณ„์‹œ ์ฝ”๋“œ์˜ ๊ธฐ๋Šฅ์œผ๋กœ ์ ์ ˆํ•˜์ง€ ์•Š์€ ๊ฒƒ์€?
['ํ™•์žฅ์„ฑ', 'ํŽธ๋ฆฌ์„ฑ', '์—ฐ๊ด€์„ฑ', '์ค‘๋ณต์„ฑ']
์ค‘๋ณต์„ฑ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Computer Science
{'A': 'ํ™•์žฅ์„ฑ', 'B': 'ํŽธ๋ฆฌ์„ฑ', 'C': '์—ฐ๊ด€์„ฑ', 'D': '์ค‘๋ณต์„ฑ', 'Human Accuracy': 0.2}
test
reasoning
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ฝ”๋“œ ์„ค๊ณ„์‹œ ์ฝ”๋“œ์˜ ๊ธฐ๋Šฅ์œผ๋กœ ์ ์ ˆํ•˜์ง€ ์•Š์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ํ™•์žฅ์„ฑ (b) ํŽธ๋ฆฌ์„ฑ (c) ์—ฐ๊ด€์„ฑ (d) ์ค‘๋ณต์„ฑ ๋‹ต:
18,933
18,934
MCQA
null
๋‚˜์”จ-์Šˆ๋‚˜์ด๋”๋งŒ(Nassi-Schneiderman) ๋„ํ‘œ๋Š” ๊ตฌ์กฐ์  ํ”„๋กœ๊ทธ๋žจ์„ ํ‘œํ˜„ํ•˜๊ธฐ ์œ„ํ•ด ๊ณ ์•ˆ๋˜์—ˆ๋‹ค. ์ด ๋ฐฉ๋ฒ•์—์„œ ์•Œ๊ณ ๋ฆฌ์ฆ˜์˜ ์ œ์–ด๊ตฌ์กฐ๋Š” 3๊ฐ€์ง€๋กœ ์ถฉ๋ถ„ํžˆ ํ‘œํ˜„๋  ์ˆ˜ ์žˆ๋Š”๋ฐ, ์ด์— ํ•ด๋‹นํ•˜์ง€ ์•Š๋Š” ๊ฒƒ์€?
['์„ ํƒ, ๋‹ค์ค‘์„ ํƒ(if โˆผ then โˆผ else, case)', '๋ฐ˜๋ณต(repeat โˆผ until, while, for)', '๋ถ„๊ธฐ(goto, return)', '์ˆœ์ฐจ(sequential)']
๋ถ„๊ธฐ(goto, return)
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Computer Science
{'A': '์„ ํƒ, ๋‹ค์ค‘์„ ํƒ(if โˆผ then โˆผ else, case)', 'B': '๋ฐ˜๋ณต(repeat โˆผ until, while, for)', 'C': '๋ถ„๊ธฐ(goto, return)', 'D': '์ˆœ์ฐจ(sequential)', 'Human Accuracy': 0.2}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๋‚˜์”จ-์Šˆ๋‚˜์ด๋”๋งŒ(Nassi-Schneiderman) ๋„ํ‘œ๋Š” ๊ตฌ์กฐ์  ํ”„๋กœ๊ทธ๋žจ์„ ํ‘œํ˜„ํ•˜๊ธฐ ์œ„ํ•ด ๊ณ ์•ˆ๋˜์—ˆ๋‹ค. ์ด ๋ฐฉ๋ฒ•์—์„œ ์•Œ๊ณ ๋ฆฌ์ฆ˜์˜ ์ œ์–ด๊ตฌ์กฐ๋Š” 3๊ฐ€์ง€๋กœ ์ถฉ๋ถ„ํžˆ ํ‘œํ˜„๋  ์ˆ˜ ์žˆ๋Š”๋ฐ, ์ด์— ํ•ด๋‹นํ•˜์ง€ ์•Š๋Š” ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์„ ํƒ, ๋‹ค์ค‘์„ ํƒ(if โˆผ then โˆผ else, case) (b) ๋ฐ˜๋ณต(repeat โˆผ until, while, for) (c) ๋ถ„๊ธฐ(goto, return) (d) ์ˆœ์ฐจ(sequential) ๋‹ต:
18,934
18,935
MCQA
null
ํšจ๊ณผ์  ๋ชจ๋“ˆ ์„ค๊ณ„๋ฅผ ์œ„ํ•œ ์œ ์˜์‚ฌํ•ญ์œผ๋กœ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€?
['๋ชจ๋“ˆ์˜ ๊ธฐ๋Šฅ์„ ์˜ˆ์ธกํ•  ์ˆ˜ ์žˆ๋„๋ก ์ •์˜ํ•œ๋‹ค.', '๋ชจ๋“ˆ์€ ๋‹จ์ผ ์ž…๊ตฌ์™€ ๋‹จ์ผ ์ถœ๊ตฌ๋ฅผ ๊ฐ–๋„๋ก ์„ค๊ณ„ํ•œ๋‹ค.', '๊ฒฐํ•ฉ๋„๋Š” ๊ฐ•ํ•˜๊ฒŒ, ์‘์ง‘๋„๋Š” ์•ฝํ•˜๊ฒŒ ์„ค๊ณ„ํ•˜์—ฌ ๋ชจ๋“ˆ์˜ ๋…๋ฆฝ์„ฑ์„ ํ™•๋ณดํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•œ๋‹ค.', '์œ ์ง€๋ณด์ˆ˜๊ฐ€ ์šฉ์ดํ•ด์•ผ ํ•œ๋‹ค.']
๊ฒฐํ•ฉ๋„๋Š” ๊ฐ•ํ•˜๊ฒŒ, ์‘์ง‘๋„๋Š” ์•ฝํ•˜๊ฒŒ ์„ค๊ณ„ํ•˜์—ฌ ๋ชจ๋“ˆ์˜ ๋…๋ฆฝ์„ฑ์„ ํ™•๋ณดํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Computer Science
{'A': '๋ชจ๋“ˆ์˜ ๊ธฐ๋Šฅ์„ ์˜ˆ์ธกํ•  ์ˆ˜ ์žˆ๋„๋ก ์ •์˜ํ•œ๋‹ค.', 'B': '๋ชจ๋“ˆ์€ ๋‹จ์ผ ์ž…๊ตฌ์™€ ๋‹จ์ผ ์ถœ๊ตฌ๋ฅผ ๊ฐ–๋„๋ก ์„ค๊ณ„ํ•œ๋‹ค.', 'C': '๊ฒฐํ•ฉ๋„๋Š” ๊ฐ•ํ•˜๊ฒŒ, ์‘์ง‘๋„๋Š” ์•ฝํ•˜๊ฒŒ ์„ค๊ณ„ํ•˜์—ฌ ๋ชจ๋“ˆ์˜ ๋…๋ฆฝ์„ฑ์„ ํ™•๋ณดํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•œ๋‹ค.', 'D': '์œ ์ง€๋ณด์ˆ˜๊ฐ€ ์šฉ์ดํ•ด์•ผ ํ•œ๋‹ค.', 'Human Accuracy': 0.2}
test
reasoning
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํšจ๊ณผ์  ๋ชจ๋“ˆ ์„ค๊ณ„๋ฅผ ์œ„ํ•œ ์œ ์˜์‚ฌํ•ญ์œผ๋กœ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ๋ชจ๋“ˆ์˜ ๊ธฐ๋Šฅ์„ ์˜ˆ์ธกํ•  ์ˆ˜ ์žˆ๋„๋ก ์ •์˜ํ•œ๋‹ค. (b) ๋ชจ๋“ˆ์€ ๋‹จ์ผ ์ž…๊ตฌ์™€ ๋‹จ์ผ ์ถœ๊ตฌ๋ฅผ ๊ฐ–๋„๋ก ์„ค๊ณ„ํ•œ๋‹ค. (c) ๊ฒฐํ•ฉ๋„๋Š” ๊ฐ•ํ•˜๊ฒŒ, ์‘์ง‘๋„๋Š” ์•ฝํ•˜๊ฒŒ ์„ค๊ณ„ํ•˜์—ฌ ๋ชจ๋“ˆ์˜ ๋…๋ฆฝ์„ฑ์„ ํ™•๋ณดํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•œ๋‹ค. (d) ์œ ์ง€๋ณด์ˆ˜๊ฐ€ ์šฉ์ดํ•ด์•ผ ํ•œ๋‹ค. ๋‹ต:
18,935
18,936
MCQA
null
ํ™”์ดํŠธ ๋ฐ•์Šค ์‹œํ—˜(White Box Testing)์˜ ์„ค๋ช…์œผ๋กœ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€?
['ํ”„๋กœ๊ทธ๋žจ์˜ ์ œ์–ด๊ตฌ์กฐ์— ๋”ฐ๋ผ ์„ ํƒ, ๋ฐ˜๋ณต ๋“ฑ์˜ ๋ถ€๋ถ„๋“ค์„ ์ˆ˜ํ–‰ํ•จ์œผ๋กœ์จ ๋…ผ๋ฆฌ์  ๊ฒฝ๋กœ๋ฅผ ์ ๊ฒ€ํ•œ๋‹ค.', '๋ชจ๋“ˆ์•ˆ์˜ ์ž‘๋™์„ ์ง์ ‘ ๊ด€์ฐฐํ•  ์ˆ˜ ์žˆ๋‹ค.', '์†Œํ”„ํŠธ์›จ์–ด ์‚ฐ๋ฌผ์˜ ๊ฐ ๊ธฐ๋Šฅ๋ณ„๋กœ ์ ์ ˆํ•œ ์ •๋ณด์˜์—ญ์„ ์ •ํ•˜์—ฌ, ์ ํ•ฉํ•œ ์ž…๋ ฅ์— ๋Œ€ํ•œ ์ถœ๋ ฅ์˜ ์ •ํ™•์„ฑ์„ ์ ๊ฒ€ํ•œ๋‹ค.', '์›์‹œ ์ฝ”๋“œ์˜ ๋ชจ๋“  ๋ฌธ์žฅ์„ ํ•œ๋ฒˆ ์ด์ƒ ์ˆ˜ํ–‰ํ•จ์œผ๋กœ์จ ์ง„ํ–‰๋œ๋‹ค.']
์†Œํ”„ํŠธ์›จ์–ด ์‚ฐ๋ฌผ์˜ ๊ฐ ๊ธฐ๋Šฅ๋ณ„๋กœ ์ ์ ˆํ•œ ์ •๋ณด์˜์—ญ์„ ์ •ํ•˜์—ฌ, ์ ํ•ฉํ•œ ์ž…๋ ฅ์— ๋Œ€ํ•œ ์ถœ๋ ฅ์˜ ์ •ํ™•์„ฑ์„ ์ ๊ฒ€ํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Computer Science
{'A': 'ํ”„๋กœ๊ทธ๋žจ์˜ ์ œ์–ด๊ตฌ์กฐ์— ๋”ฐ๋ผ ์„ ํƒ, ๋ฐ˜๋ณต ๋“ฑ์˜ ๋ถ€๋ถ„๋“ค์„ ์ˆ˜ํ–‰ํ•จ์œผ๋กœ์จ ๋…ผ๋ฆฌ์  ๊ฒฝ๋กœ๋ฅผ ์ ๊ฒ€ํ•œ๋‹ค.', 'B': '๋ชจ๋“ˆ์•ˆ์˜ ์ž‘๋™์„ ์ง์ ‘ ๊ด€์ฐฐํ•  ์ˆ˜ ์žˆ๋‹ค.', 'C': '์†Œํ”„ํŠธ์›จ์–ด ์‚ฐ๋ฌผ์˜ ๊ฐ ๊ธฐ๋Šฅ๋ณ„๋กœ ์ ์ ˆํ•œ ์ •๋ณด์˜์—ญ์„ ์ •ํ•˜์—ฌ, ์ ํ•ฉํ•œ ์ž…๋ ฅ์— ๋Œ€ํ•œ ์ถœ๋ ฅ์˜ ์ •ํ™•์„ฑ์„ ์ ๊ฒ€ํ•œ๋‹ค.', 'D': '์›์‹œ ์ฝ”๋“œ์˜ ๋ชจ๋“  ๋ฌธ์žฅ์„ ํ•œ๋ฒˆ ์ด์ƒ ์ˆ˜ํ–‰ํ•จ์œผ๋กœ์จ ์ง„ํ–‰๋œ๋‹ค.', 'Human Accuracy': 0.2}
test
reasoning
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํ™”์ดํŠธ ๋ฐ•์Šค ์‹œํ—˜(White Box Testing)์˜ ์„ค๋ช…์œผ๋กœ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ํ”„๋กœ๊ทธ๋žจ์˜ ์ œ์–ด๊ตฌ์กฐ์— ๋”ฐ๋ผ ์„ ํƒ, ๋ฐ˜๋ณต ๋“ฑ์˜ ๋ถ€๋ถ„๋“ค์„ ์ˆ˜ํ–‰ํ•จ์œผ๋กœ์จ ๋…ผ๋ฆฌ์  ๊ฒฝ๋กœ๋ฅผ ์ ๊ฒ€ํ•œ๋‹ค. (b) ๋ชจ๋“ˆ์•ˆ์˜ ์ž‘๋™์„ ์ง์ ‘ ๊ด€์ฐฐํ•  ์ˆ˜ ์žˆ๋‹ค. (c) ์†Œํ”„ํŠธ์›จ์–ด ์‚ฐ๋ฌผ์˜ ๊ฐ ๊ธฐ๋Šฅ๋ณ„๋กœ ์ ์ ˆํ•œ ์ •๋ณด์˜์—ญ์„ ์ •ํ•˜์—ฌ, ์ ํ•ฉํ•œ ์ž…๋ ฅ์— ๋Œ€ํ•œ ์ถœ๋ ฅ์˜ ์ •ํ™•์„ฑ์„ ์ ๊ฒ€ํ•œ๋‹ค. (d) ์›์‹œ ์ฝ”๋“œ์˜ ๋ชจ๋“  ๋ฌธ์žฅ์„ ํ•œ๋ฒˆ ์ด์ƒ ์ˆ˜ํ–‰ํ•จ์œผ๋กœ์จ ์ง„ํ–‰๋œ๋‹ค. ๋‹ต:
18,936
18,937
MCQA
null
๊ตฌ์กฐ์  ํ”„๋กœ๊ทธ๋žจ์˜ ๊ธฐ๋ณธ ๊ตฌ์กฐ์— ํ•ด๋‹นํ•˜์ง€ ์•Š๋Š” ๊ฒƒ์€?
['์ˆœ์ฐจ(sequence)๊ตฌ์กฐ', '๋ฐ˜๋ณต(repetition)๊ตฌ์กฐ', '์กฐ๊ฑด(condition)๊ตฌ์กฐ', '์ผ๊ด„(batch)๊ตฌ์กฐ']
์ผ๊ด„(batch)๊ตฌ์กฐ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Computer Science
{'A': '์ˆœ์ฐจ(sequence)๊ตฌ์กฐ', 'B': '๋ฐ˜๋ณต(repetition)๊ตฌ์กฐ', 'C': '์กฐ๊ฑด(condition)๊ตฌ์กฐ', 'D': '์ผ๊ด„(batch)๊ตฌ์กฐ', 'Human Accuracy': 0.2}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ๊ตฌ์กฐ์  ํ”„๋กœ๊ทธ๋žจ์˜ ๊ธฐ๋ณธ ๊ตฌ์กฐ์— ํ•ด๋‹นํ•˜์ง€ ์•Š๋Š” ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์ˆœ์ฐจ(sequence)๊ตฌ์กฐ (b) ๋ฐ˜๋ณต(repetition)๊ตฌ์กฐ (c) ์กฐ๊ฑด(condition)๊ตฌ์กฐ (d) ์ผ๊ด„(batch)๊ตฌ์กฐ ๋‹ต:
18,937
18,938
MCQA
null
ํ”„๋กœํ† ์ฝœ์˜ ๊ตฌ์„ฑ์š”์†Œ ์ค‘ "ํ†ต์‹ ํ•  ๋ฐ์ดํ„ฐ์˜ ํ˜•์‹"์ด๋ž€ ์˜๋ฏธ๋กœ ์ฝ”๋”ฉ, ์‹ ํ˜ธ๋ ˆ๋ฒจ ๋“ฑ์„ ์ •์˜ํ•˜๋ฉฐ ํ†ต์‹ ์—์„œ ์ „๋‹ฌ๋˜๋Š” ์ž๋ฃŒ์˜ ๊ตฌ์กฐ๋ฅผ ์ •์˜ํ•˜๋Š” ๊ฒƒ์€?
['์˜๋ฏธ(Semantics)', '๊ตฌ๋ฌธ(Syntax)', 'ํƒ€์ด๋ฐ(Timing)', 'ํฌ๋งท(Format)']
๊ตฌ๋ฌธ(Syntax)
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Telecommunications and Wireless Technology
{'A': '์˜๋ฏธ(Semantics)', 'B': '๊ตฌ๋ฌธ(Syntax)', 'C': 'ํƒ€์ด๋ฐ(Timing)', 'D': 'ํฌ๋งท(Format)', 'Human Accuracy': 0.1429}
test
knowledge
ko
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํ”„๋กœํ† ์ฝœ์˜ ๊ตฌ์„ฑ์š”์†Œ ์ค‘ "ํ†ต์‹ ํ•  ๋ฐ์ดํ„ฐ์˜ ํ˜•์‹"์ด๋ž€ ์˜๋ฏธ๋กœ ์ฝ”๋”ฉ, ์‹ ํ˜ธ๋ ˆ๋ฒจ ๋“ฑ์„ ์ •์˜ํ•˜๋ฉฐ ํ†ต์‹ ์—์„œ ์ „๋‹ฌ๋˜๋Š” ์ž๋ฃŒ์˜ ๊ตฌ์กฐ๋ฅผ ์ •์˜ํ•˜๋Š” ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์˜๋ฏธ(Semantics) (b) ๊ตฌ๋ฌธ(Syntax) (c) ํƒ€์ด๋ฐ(Timing) (d) ํฌ๋งท(Format) ๋‹ต:
18,938
18,939
MCQA
null
ํฌ์ธํ„ฐ์— ๋Œ€ํ•œ ์„ค๋ช…์ค‘ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€?
['ํฌ์ธํ„ฐ๋Š” ๊ฐ„๊ฒฐํ•˜๊ฒŒ ํ”„๋กœ๊ทธ๋ž˜๋ฐ์„ ํ•  ์ˆ˜ ์žˆ๋‹ค.', '์•ก์„ธ์Šค(access)ํ•˜๊ธฐ ์ „์— ํฌ์ธํ„ฐ์˜ ๊ฐ’์ด ์ฃผ์–ด์ ธ์•ผ ํ•œ๋‹ค.', 'ํฌ์ธํ„ฐ๋Š” ์—ฐ์‚ฐ์†๋„๋ฅผ ๋น ๋ฅด๊ฒŒ ํ•ด์ค€๋‹ค.', 'Call by Name์€ ํฌ์ธํ„ฐ์— ์˜ํ•ด์„œ ์ฒ˜๋ฆฌ๋œ๋‹ค.']
ํฌ์ธํ„ฐ๋Š” ์—ฐ์‚ฐ์†๋„๋ฅผ ๋น ๋ฅด๊ฒŒ ํ•ด์ค€๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Telecommunications and Wireless Technology
{'A': 'ํฌ์ธํ„ฐ๋Š” ๊ฐ„๊ฒฐํ•˜๊ฒŒ ํ”„๋กœ๊ทธ๋ž˜๋ฐ์„ ํ•  ์ˆ˜ ์žˆ๋‹ค.', 'B': '์•ก์„ธ์Šค(access)ํ•˜๊ธฐ ์ „์— ํฌ์ธํ„ฐ์˜ ๊ฐ’์ด ์ฃผ์–ด์ ธ์•ผ ํ•œ๋‹ค.', 'C': 'ํฌ์ธํ„ฐ๋Š” ์—ฐ์‚ฐ์†๋„๋ฅผ ๋น ๋ฅด๊ฒŒ ํ•ด์ค€๋‹ค.', 'D': 'Call by Name์€ ํฌ์ธํ„ฐ์— ์˜ํ•ด์„œ ์ฒ˜๋ฆฌ๋œ๋‹ค.', 'Human Accuracy': 0.25}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํฌ์ธํ„ฐ์— ๋Œ€ํ•œ ์„ค๋ช…์ค‘ ์˜ณ์ง€ ์•Š์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ํฌ์ธํ„ฐ๋Š” ๊ฐ„๊ฒฐํ•˜๊ฒŒ ํ”„๋กœ๊ทธ๋ž˜๋ฐ์„ ํ•  ์ˆ˜ ์žˆ๋‹ค. (b) ์•ก์„ธ์Šค(access)ํ•˜๊ธฐ ์ „์— ํฌ์ธํ„ฐ์˜ ๊ฐ’์ด ์ฃผ์–ด์ ธ์•ผ ํ•œ๋‹ค. (c) ํฌ์ธํ„ฐ๋Š” ์—ฐ์‚ฐ์†๋„๋ฅผ ๋น ๋ฅด๊ฒŒ ํ•ด์ค€๋‹ค. (d) Call by Name์€ ํฌ์ธํ„ฐ์— ์˜ํ•ด์„œ ์ฒ˜๋ฆฌ๋œ๋‹ค. ๋‹ต:
18,939
18,940
MCQA
null
์„ค๋ฌธ๊ฒฐ๊ณผ๋ฅผ ์ฝ”๋”ฉ์ง€์— ๊ธฐ๋กํ•  ๋•Œ ์œ ์˜์‚ฌํ•ญ์ด ์•„๋‹Œ ๊ฒƒ์€?
['ํ•œ ์นธ์—๋Š” ๋‹จ์ง€ ํ•˜๋‚˜์˜ ์ˆซ์ž๊ฐ€ ๊ธฐ๋ก๋˜์–ด์•ผ ํ•œ๋‹ค.', '์‘๋‹ต์˜ ์„ธ๋ถ„ํ™”๋œ ์ˆ˜๋ฅผ ๊ณ ๋ คํ•˜์—ฌ ํ•ญ๋ชฉ๋ณ„ ์นธ์˜ ์ˆ˜๋ฅผ ๊ฒฐ์ •ํ•˜์—ฌ์•ผ ํ•œ๋‹ค.', 'ํ•ญ๋ชฉ์„ ๋ถ„์„ ๊ฐ€๋Šฅํ•œ ์ˆซ์ž๋กœ ํ‘œํ˜„ํ•œ๋‹ค.', '์ทจ๋“ํ•˜์ง€ ๋ชปํ•œ ์ž๋ฃŒ๋ฅผ ์ฒ˜๋ฆฌํ•  ๊ฒฝ์šฐ์—๋Š” A, B์™€ ๊ฐ™์€ ์•ŒํŒŒ๋ฒณ์„ ์ด์šฉํ•˜์—ฌ ๊ตฌ๋ถ„์„ ๋ช…ํ™•ํ•˜๊ฒŒ ํ•œ๋‹ค.']
์ทจ๋“ํ•˜์ง€ ๋ชปํ•œ ์ž๋ฃŒ๋ฅผ ์ฒ˜๋ฆฌํ•  ๊ฒฝ์šฐ์—๋Š” A, B์™€ ๊ฐ™์€ ์•ŒํŒŒ๋ฒณ์„ ์ด์šฉํ•˜์—ฌ ๊ตฌ๋ถ„์„ ๋ช…ํ™•ํ•˜๊ฒŒ ํ•œ๋‹ค.
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Marketing
{'A': 'ํ•œ ์นธ์—๋Š” ๋‹จ์ง€ ํ•˜๋‚˜์˜ ์ˆซ์ž๊ฐ€ ๊ธฐ๋ก๋˜์–ด์•ผ ํ•œ๋‹ค.', 'B': '์‘๋‹ต์˜ ์„ธ๋ถ„ํ™”๋œ ์ˆ˜๋ฅผ ๊ณ ๋ คํ•˜์—ฌ ํ•ญ๋ชฉ๋ณ„ ์นธ์˜ ์ˆ˜๋ฅผ ๊ฒฐ์ •ํ•˜์—ฌ์•ผ ํ•œ๋‹ค.', 'C': 'ํ•ญ๋ชฉ์„ ๋ถ„์„ ๊ฐ€๋Šฅํ•œ ์ˆซ์ž๋กœ ํ‘œํ˜„ํ•œ๋‹ค.', 'D': '์ทจ๋“ํ•˜์ง€ ๋ชปํ•œ ์ž๋ฃŒ๋ฅผ ์ฒ˜๋ฆฌํ•  ๊ฒฝ์šฐ์—๋Š” A, B์™€ ๊ฐ™์€ ์•ŒํŒŒ๋ฒณ์„ ์ด์šฉํ•˜์—ฌ ๊ตฌ๋ถ„์„ ๋ช…ํ™•ํ•˜๊ฒŒ ํ•œ๋‹ค.', 'Human Accuracy': 0.4902}
test
knowledge
ko
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์„ค๋ฌธ๊ฒฐ๊ณผ๋ฅผ ์ฝ”๋”ฉ์ง€์— ๊ธฐ๋กํ•  ๋•Œ ์œ ์˜์‚ฌํ•ญ์ด ์•„๋‹Œ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ํ•œ ์นธ์—๋Š” ๋‹จ์ง€ ํ•˜๋‚˜์˜ ์ˆซ์ž๊ฐ€ ๊ธฐ๋ก๋˜์–ด์•ผ ํ•œ๋‹ค. (b) ์‘๋‹ต์˜ ์„ธ๋ถ„ํ™”๋œ ์ˆ˜๋ฅผ ๊ณ ๋ คํ•˜์—ฌ ํ•ญ๋ชฉ๋ณ„ ์นธ์˜ ์ˆ˜๋ฅผ ๊ฒฐ์ •ํ•˜์—ฌ์•ผ ํ•œ๋‹ค. (c) ํ•ญ๋ชฉ์„ ๋ถ„์„ ๊ฐ€๋Šฅํ•œ ์ˆซ์ž๋กœ ํ‘œํ˜„ํ•œ๋‹ค. (d) ์ทจ๋“ํ•˜์ง€ ๋ชปํ•œ ์ž๋ฃŒ๋ฅผ ์ฒ˜๋ฆฌํ•  ๊ฒฝ์šฐ์—๋Š” A, B์™€ ๊ฐ™์€ ์•ŒํŒŒ๋ฒณ์„ ์ด์šฉํ•˜์—ฌ ๊ตฌ๋ถ„์„ ๋ช…ํ™•ํ•˜๊ฒŒ ํ•œ๋‹ค. ๋‹ต:
18,940
18,941
MCQA
null
์„ค๋ฌธ์กฐ์‚ฌ ์‹œ ๋ณ„๋„๋กœ ์ฝ”๋”ฉ์„ ํ•˜์ง€ ์•Š์•„๋„ ๋˜๊ธฐ ๋•Œ๋ฌธ์— ์‹œ๊ฐ„์„ ์ ˆ์•ฝํ•  ์ˆ˜ ์žˆ๋Š” ์กฐ์‚ฌ๋Š”?
['์ธํ„ฐ๋„ท์กฐ์‚ฌ', '์šฐํŽธ์กฐ์‚ฌ', '์ „ํ™”์กฐ์‚ฌ', '๋ฐฉ๋ฌธ์กฐ์‚ฌ']
์ธํ„ฐ๋„ท์กฐ์‚ฌ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '1'}
Marketing
{'A': '์ธํ„ฐ๋„ท์กฐ์‚ฌ', 'B': '์šฐํŽธ์กฐ์‚ฌ', 'C': '์ „ํ™”์กฐ์‚ฌ', 'D': '๋ฐฉ๋ฌธ์กฐ์‚ฌ', 'Human Accuracy': 0.6383}
test
knowledge
general
['tech/coding', 'social&humanity/administration']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์„ค๋ฌธ์กฐ์‚ฌ ์‹œ ๋ณ„๋„๋กœ ์ฝ”๋”ฉ์„ ํ•˜์ง€ ์•Š์•„๋„ ๋˜๊ธฐ ๋•Œ๋ฌธ์— ์‹œ๊ฐ„์„ ์ ˆ์•ฝํ•  ์ˆ˜ ์žˆ๋Š” ์กฐ์‚ฌ๋Š”? ๋ณด๊ธฐ: (a) ์ธํ„ฐ๋„ท์กฐ์‚ฌ (b) ์šฐํŽธ์กฐ์‚ฌ (c) ์ „ํ™”์กฐ์‚ฌ (d) ๋ฐฉ๋ฌธ์กฐ์‚ฌ ๋‹ต:
18,941
18,942
MCQA
null
์ž๋ฃŒ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ์ฝ”๋”ฉ์— ์–ด๋ ค์›€์ด ๋”ฐ๋ฅด๋Š” ์งˆ๋ฌธํ˜•ํƒœ๋Š”?
['์ž์œ ์‘๋‹ตํ˜•', '๋‹ค์ง€์„ ๋‹คํ˜•', '์–‘์žํƒ์ผํ˜•', '๊ฐ€์น˜๊ฐœ์ž…ํ˜•']
์ž์œ ์‘๋‹ตํ˜•
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '1'}
Marketing
{'A': '์ž์œ ์‘๋‹ตํ˜•', 'B': '๋‹ค์ง€์„ ๋‹คํ˜•', 'C': '์–‘์žํƒ์ผํ˜•', 'D': '๊ฐ€์น˜๊ฐœ์ž…ํ˜•', 'Human Accuracy': 0.7143}
test
knowledge
general
['tech/coding']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ž๋ฃŒ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ์ฝ”๋”ฉ์— ์–ด๋ ค์›€์ด ๋”ฐ๋ฅด๋Š” ์งˆ๋ฌธํ˜•ํƒœ๋Š”? ๋ณด๊ธฐ: (a) ์ž์œ ์‘๋‹ตํ˜• (b) ๋‹ค์ง€์„ ๋‹คํ˜• (c) ์–‘์žํƒ์ผํ˜• (d) ๊ฐ€์น˜๊ฐœ์ž…ํ˜• ๋‹ต:
18,942
18,943
MCQA
null
์ž์—ฐํœด์–‘๋ฆผ์˜ ํœด์–‘์‹œ์„ค ๊ธฐ์ค€ ์ค‘ ํ‹€๋ฆฐ ๊ฒƒ์€?
['์•ผ์˜์žฅ์€ ํ•˜์ฒœ์œผ๋กœ๋ถ€ํ„ฐ 10m ์ด์ƒ์˜ ๊ฑฐ๋ฆฌ๋ฅผ ๋‘˜ ๊ฒƒ', '์‚ฐ์ฑ…๋กœ์™€ ์ž์—ฐํƒ๋ฐฉ๋กœ์˜ ๋…ธํญ์€ 3m ๋‚ด์™ธ๋กœ ํ•  ๊ฒƒ', '์ˆฒ ์† ์ˆ˜๋ จ์žฅ์€ 30๋ช… ์ด์ƒ์„ ๋™์‹œ์— ์ˆ˜์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๊ทœ๋ชจ๋กœ ํ•  ๊ฒƒ', '์ˆฒ ์†์˜ ์ง‘์€ ์ž์—ฐ์žฌํ•ด์˜ ์œ„ํ—˜์ด ์—†๊ณ  ์ผ์กฐ๋Ÿ‰์ด ๋งŽ์€ ์ง€์—ญ์— ๋ฐฐ์น˜ํ•  ๊ฒƒ']
์‚ฐ์ฑ…๋กœ์™€ ์ž์—ฐํƒ๋ฐฉ๋กœ์˜ ๋…ธํญ์€ 3m ๋‚ด์™ธ๋กœ ํ•  ๊ฒƒ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Ecology
{'A': '์•ผ์˜์žฅ์€ ํ•˜์ฒœ์œผ๋กœ๋ถ€ํ„ฐ 10m ์ด์ƒ์˜ ๊ฑฐ๋ฆฌ๋ฅผ ๋‘˜ ๊ฒƒ', 'B': '์‚ฐ์ฑ…๋กœ์™€ ์ž์—ฐํƒ๋ฐฉ๋กœ์˜ ๋…ธํญ์€ 3m ๋‚ด์™ธ๋กœ ํ•  ๊ฒƒ', 'C': '์ˆฒ ์† ์ˆ˜๋ จ์žฅ์€ 30๋ช… ์ด์ƒ์„ ๋™์‹œ์— ์ˆ˜์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๊ทœ๋ชจ๋กœ ํ•  ๊ฒƒ', 'D': '์ˆฒ ์†์˜ ์ง‘์€ ์ž์—ฐ์žฌํ•ด์˜ ์œ„ํ—˜์ด ์—†๊ณ  ์ผ์กฐ๋Ÿ‰์ด ๋งŽ์€ ์ง€์—ญ์— ๋ฐฐ์น˜ํ•  ๊ฒƒ', 'Human Accuracy': 0.222199999999999}
test
knowledge
general
['culture/leisure']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ์ž์—ฐํœด์–‘๋ฆผ์˜ ํœด์–‘์‹œ์„ค ๊ธฐ์ค€ ์ค‘ ํ‹€๋ฆฐ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ์•ผ์˜์žฅ์€ ํ•˜์ฒœ์œผ๋กœ๋ถ€ํ„ฐ 10m ์ด์ƒ์˜ ๊ฑฐ๋ฆฌ๋ฅผ ๋‘˜ ๊ฒƒ (b) ์‚ฐ์ฑ…๋กœ์™€ ์ž์—ฐํƒ๋ฐฉ๋กœ์˜ ๋…ธํญ์€ 3m ๋‚ด์™ธ๋กœ ํ•  ๊ฒƒ (c) ์ˆฒ ์† ์ˆ˜๋ จ์žฅ์€ 30๋ช… ์ด์ƒ์„ ๋™์‹œ์— ์ˆ˜์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๊ทœ๋ชจ๋กœ ํ•  ๊ฒƒ (d) ์ˆฒ ์†์˜ ์ง‘์€ ์ž์—ฐ์žฌํ•ด์˜ ์œ„ํ—˜์ด ์—†๊ณ  ์ผ์กฐ๋Ÿ‰์ด ๋งŽ์€ ์ง€์—ญ์— ๋ฐฐ์น˜ํ•  ๊ฒƒ ๋‹ต:
18,943
18,944
MCQA
null
ํœด์–‘์ง€ ์‹œ์„ค์˜ ์„ค๊ณ„์‹œ ๊ณ ๋ ค์‚ฌํ•ญ ์ค‘ ์ค‘์š”๋„๊ฐ€ ๊ฐ€์žฅ ๋‚ฎ์€ ๊ฒƒ์€?
['ํ™˜๊ฒฝ๊ณผ์˜ ์กฐํ™”์„ฑ', '์‹œ๊ณต์˜ ์šฉ์ด์„ฑ', '๊ด€๋ฆฌ์˜ ์šฉ์ด์„ฑ', '๊ธฐ๋Šฅ์˜ ์šฐ์ˆ˜์„ฑ']
์‹œ๊ณต์˜ ์šฉ์ด์„ฑ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '2'}
Ecology
{'A': 'ํ™˜๊ฒฝ๊ณผ์˜ ์กฐํ™”์„ฑ', 'B': '์‹œ๊ณต์˜ ์šฉ์ด์„ฑ', 'C': '๊ด€๋ฆฌ์˜ ์šฉ์ด์„ฑ', 'D': '๊ธฐ๋Šฅ์˜ ์šฐ์ˆ˜์„ฑ', 'Human Accuracy': 0.2857}
test
reasoning
general
['culture/leisure']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํœด์–‘์ง€ ์‹œ์„ค์˜ ์„ค๊ณ„์‹œ ๊ณ ๋ ค์‚ฌํ•ญ ์ค‘ ์ค‘์š”๋„๊ฐ€ ๊ฐ€์žฅ ๋‚ฎ์€ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ํ™˜๊ฒฝ๊ณผ์˜ ์กฐํ™”์„ฑ (b) ์‹œ๊ณต์˜ ์šฉ์ด์„ฑ (c) ๊ด€๋ฆฌ์˜ ์šฉ์ด์„ฑ (d) ๊ธฐ๋Šฅ์˜ ์šฐ์ˆ˜์„ฑ ๋‹ต:
18,944
18,945
MCQA
null
ํœด์–‘์ง€์—ญ์˜ ์†์„ฑ ์ค‘ ์ด์šฉ๊ฐ์˜ ๊ฒฝํ—˜์— ์˜ํ–ฅ์„ ์ฃผ๋ฉฐ, ์ด์šฉ๊ฐ์˜ ํœด์–‘ํ™œ๋™์„ ๊ทœ์ •ํ•˜๊ธฐ ๋•Œ๋ฌธ์— ๊ด€๋ฆฌ์ž๊ฐ€ ๊ฐ€์žฅ ์‹ ๊ฒฝ์„ ์จ์•ผ ํ•˜๋Š” ์†์„ฑ์€ ์–ด๋–ค ๊ฒƒ์ธ๊ฐ€?
['์ง€์—ญ์  ์†์„ฑ', '๊ฑฐ์‹œ์  ์†์„ฑ', '๊ตญ์ง€์  ์†์„ฑ', '๊ตญ๊ฐ€์  ์†์„ฑ']
๊ตญ์ง€์  ์†์„ฑ
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '3'}
Ecology
{'A': '์ง€์—ญ์  ์†์„ฑ', 'B': '๊ฑฐ์‹œ์  ์†์„ฑ', 'C': '๊ตญ์ง€์  ์†์„ฑ', 'D': '๊ตญ๊ฐ€์  ์†์„ฑ', 'Human Accuracy': 0.30770000000000003}
test
knowledge
general
['culture/leisure']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํœด์–‘์ง€์—ญ์˜ ์†์„ฑ ์ค‘ ์ด์šฉ๊ฐ์˜ ๊ฒฝํ—˜์— ์˜ํ–ฅ์„ ์ฃผ๋ฉฐ, ์ด์šฉ๊ฐ์˜ ํœด์–‘ํ™œ๋™์„ ๊ทœ์ •ํ•˜๊ธฐ ๋•Œ๋ฌธ์— ๊ด€๋ฆฌ์ž๊ฐ€ ๊ฐ€์žฅ ์‹ ๊ฒฝ์„ ์จ์•ผ ํ•˜๋Š” ์†์„ฑ์€ ์–ด๋–ค ๊ฒƒ์ธ๊ฐ€? ๋ณด๊ธฐ: (a) ์ง€์—ญ์  ์†์„ฑ (b) ๊ฑฐ์‹œ์  ์†์„ฑ (c) ๊ตญ์ง€์  ์†์„ฑ (d) ๊ตญ๊ฐ€์  ์†์„ฑ ๋‹ต:
18,945
18,946
MCQA
null
ํœด์–‘๋งˆ์ผ€ํŒ…์˜ ์„œ๋น„์Šค ํŠน์„ฑ ์ค‘ ์„œ๋น„์Šค ์ˆ˜ํ–‰์— ์žˆ์–ด์„œ ์ž ์žฌ์ ์œผ๋กœ ์ง€๋‹ˆ๊ณ  ์žˆ๋Š” ๋ณ€๋™ ๊ฐ€๋Šฅ์„ฑ์„ ์˜๋ฏธํ•˜๋Š” ํŠน์„ฑ์€?
['๋ฌดํ˜•์„ฑ(็„กๅฝขๆ€ง, intangibility)', '๋น„๋ถ„๋ฆฌ์„ฑ(้žๅˆ†้›ขๆ€ง, inseparability)', '๋™์‹œ์„ฑ(ๅŒๆ™‚ๆ€ง, spontaneity)', '์ด์งˆ์„ฑ(็•ฐ่ณชๆ€ง, heterogeneity)']
์ด์งˆ์„ฑ(็•ฐ่ณชๆ€ง, heterogeneity)
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Ecology
{'A': '๋ฌดํ˜•์„ฑ(็„กๅฝขๆ€ง, intangibility)', 'B': '๋น„๋ถ„๋ฆฌ์„ฑ(้žๅˆ†้›ขๆ€ง, inseparability)', 'C': '๋™์‹œ์„ฑ(ๅŒๆ™‚ๆ€ง, spontaneity)', 'D': '์ด์งˆ์„ฑ(็•ฐ่ณชๆ€ง, heterogeneity)', 'Human Accuracy': 0.33330000000000004}
test
knowledge
general
['culture/leisure']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํœด์–‘๋งˆ์ผ€ํŒ…์˜ ์„œ๋น„์Šค ํŠน์„ฑ ์ค‘ ์„œ๋น„์Šค ์ˆ˜ํ–‰์— ์žˆ์–ด์„œ ์ž ์žฌ์ ์œผ๋กœ ์ง€๋‹ˆ๊ณ  ์žˆ๋Š” ๋ณ€๋™ ๊ฐ€๋Šฅ์„ฑ์„ ์˜๋ฏธํ•˜๋Š” ํŠน์„ฑ์€? ๋ณด๊ธฐ: (a) ๋ฌดํ˜•์„ฑ(็„กๅฝขๆ€ง, intangibility) (b) ๋น„๋ถ„๋ฆฌ์„ฑ(้žๅˆ†้›ขๆ€ง, inseparability) (c) ๋™์‹œ์„ฑ(ๅŒๆ™‚ๆ€ง, spontaneity) (d) ์ด์งˆ์„ฑ(็•ฐ่ณชๆ€ง, heterogeneity) ๋‹ต:
18,946
18,947
MCQA
null
ํœด์–‘๋ฆผ์˜ ์ˆ˜์šฉ๋ ฅ ๊ด€๋ฆฌ๊ธฐ๋ฒ• ์ค‘ ๊ฐ„์ ‘๊ธฐ๋ฒ•์ด ์•„๋‹Œ ๊ฒƒ์€?
['๋ฌผ๋ฆฌ์ ๋ณ€ํ˜•๋ฒ•', '์ •๋ณด์ œ๊ณต๋ฒ•', '์š”๊ธˆ๋ถ€๊ฐ€๋ฒ•', 'ํ™œ๋™์ œํ•œ๋ฒ•']
ํ™œ๋™์ œํ•œ๋ฒ•
null
HAERAE-HUB/KMMLU
{'num_options': 4, 'option_keys': ['A', 'B', 'C', 'D'], 'original_answer': '4'}
Ecology
{'A': '๋ฌผ๋ฆฌ์ ๋ณ€ํ˜•๋ฒ•', 'B': '์ •๋ณด์ œ๊ณต๋ฒ•', 'C': '์š”๊ธˆ๋ถ€๊ฐ€๋ฒ•', 'D': 'ํ™œ๋™์ œํ•œ๋ฒ•', 'Human Accuracy': 0.4}
test
knowledge
general
['culture/leisure']
๋‹ค์Œ ์งˆ๋ฌธ์— ๋‹ตํ•˜์—ฌ๋ผ. ๋‹ต์€ ๋ณด๊ธฐ ์ค‘ ํ•˜๋‚˜๋ฅผ (a), (b), (c), (d) ์ค‘์—์„œ ๊ณ ๋ฅด์‹œ์˜ค. ์งˆ๋ฌธ: ํœด์–‘๋ฆผ์˜ ์ˆ˜์šฉ๋ ฅ ๊ด€๋ฆฌ๊ธฐ๋ฒ• ์ค‘ ๊ฐ„์ ‘๊ธฐ๋ฒ•์ด ์•„๋‹Œ ๊ฒƒ์€? ๋ณด๊ธฐ: (a) ๋ฌผ๋ฆฌ์ ๋ณ€ํ˜•๋ฒ• (b) ์ •๋ณด์ œ๊ณต๋ฒ• (c) ์š”๊ธˆ๋ถ€๊ฐ€๋ฒ• (d) ํ™œ๋™์ œํ•œ๋ฒ• ๋‹ต:
18,947