evaluation 코드
#2
by
qutrino
- opened
안녕하세요.
좋은 데이터셋 구축해 주셔서 감사드립니다.
evaluation을 해보려고 하는데, 예제에 있는 내용과는 태스크 이름 등 버전이 맞지 않는 것 같습니다.
돌려볼 수 있는 evaluation 코드를 제공해 주실 수 있을까요?
감사합니다 확인 후 말씀드리겠습니다 :)
@qutrino 안녕하세요, 현재 lm-eval-harness big-refactor 이후 haerae-bench에 대한 지원이 중지되었습니다.
저희도 이를 확인하였고,
현재 https://github.com/EleutherAI/lm-evaluation-harness/pull/1445 해당 PR이 진행 중입니다.
Merge 이후에 다시 Comment 달아드리겠습니다.
감사합니다.