Hugging Face's logo

Datasets:
israel
/
ProverbEval

Modalities:
Text
Formats:
csv
Size:
10K - 100K
ArXiv:
Libraries:
Datasets
pandas
Dataset card Data Studio Files Community
2
Dataset Viewer
Auto-converted to Parquet
Proverb
stringlengths
4
244
ሀ ሁ፥ ባልኩ ተለከፍኩ።
ሀ ባሉ፥ ተዝካር በሉ።
ሀ ባሉ፥ ደሞዝ በሉ።
ሀሁ ሳይሉ ጽሕፈት፤ ውል ሳይዙ ሙግት።
ሀሜተኛ ነው ከዳተኛ።
ሀሜተኛ ያፍራል፤ እውነተኛ ይረታል።
ሀሜት አይቀር፥ ከድሀም ቤት።
ሀሜትና ጅራት በስተኋላ ነው። (በስተኋላ ~ ከበስተኋላ)
ሀምላ ቢያባራ፥ በጋ ይመስላል።
ሀምላና ሙሽራ ሳይገለጡ ነው።
ሀምላን በብጣሪ፤ ነሀሴን በእንጥርጣሪ።
ሀረጉን ሲስቡት ዚፉ ይወዚወዚል።
ሀረጉን ሳብ፥ ዚፉ እንዱሳሳብ።
ሀረጎ አጠጣሽኝ ዕርጎ። ሀረጎ አጠጣችኝ ዕርጎ።
ሀሰተኛ ሲናገር ይታወቃል፤ ሥሡ ሲበላ ይታነቃል። ሀሰተኛ ሲናገር ይታወቃል፤ በሶ ሲበሉት ያንቃል።
ሀሰተኛ በቃሉ፤ ስደተኛ በቅሉ።
ሀሰተኛ ያወራውን፥ ፈረሰኛ አይመልሰውም።
ሀሰተኛን ሲረቱ በወንድሙ(ና) በእኅቱ።
ሀሰት ሲናገሩ ውቃቢ ይርቃል።
ሀሰት ስለበዚ፥ እውነት ሆነ ዋዚ።
ሀሰት ቢናገሩ ውቃቢ ይርቃል።
ሀሰት ነገር ክፉ፥ ገሃነም እሳት ትርፉ።
ሀሰት አያቀላ፤ እውነት አያደላ።
ሀሰት አያድንም፥ መራቆት መልክ አያሳምርም።
ሀሰት እያደር ይቀላል፥ እውነት እያደር ይበራል።
ሀሰት እያደር ይቀላል፥ እውነትና ውሃ እያደር ይጠራል።
ሀሰትና ሥንቅ እያደረ ያልቅ።
ሀሳቡ ጥልቅ፤ ነገሩ ጥልቅ።
ሀሳብ ከውለታ አይቆጠርም ።
ሀሳብ ከፊት አይፈታ፤ ሙት አይመታ ።
ሀሳብ የለሽ፥ ወጧ ጣፋጭ ነው።
ሀሳብ የላለው ሰው፥ ሽንብራ ነቀላ ሲኼድ፥ ምሳዬን ይላል።
ሀሳብ ያገናኛል፤ ፍርሀት ያሸኛኛል ።
ሀሳብና መንገድ ማለቂያ የለውም ።
ሀሳብህን ጨርቅ ያድርገው።
ሀብታም ለሀብታም ይጠቃቀሱ፤ ድሀ ለድሀ ይለቃቀሱ።
ሀብታም ለሰጠ፥ የድሀ ሙርጥ አበጠ።
ሀብታም ለሰጠው፥ ድሀ ይንቀጠቀጣል።
ሀብታም ሉሰጥ፥ የድሀ ሙርጥ አበጠ።
ሀብታም ሉሰጥ፥ የድሀው ሙርጥ ያብጣል።
ሀብታም ሉሰጥ፥ ድሀ ምርጥ ያወጣል።
ሀብታም ሉደኸይ፥ ሲል ጠላት ያበዚል።
ሀብታም ሲወድቅ፥ ከሰገነት ድሀ ሲወድቅ ከመሬት።
ሀብታም በከብቱ፤ ድሀ በጉልበቱ። ሀብታም በወርቁ፤ ድሀ በጨርቁ።
ሀብታም በገን዗ቡ ይኮራል፤ ድሀ በጥበቡ ይከበራል። ሀብታም በገን዗ቡ፤ ድሀ በጥበቡ እርስ በርስ ይቃረቡ። ሀብታም ቢሰጥ፥ አበደረ እንጂ አልሰጠም።
ሀብታም ቢያብር፥ ድህነትን ያጠፋል።
ሀብታም ነው መባል ያኮራል፤ ድሀ ነው መባል ያሳፍራል። ሀብታም እንደሚበላለት፤ ድሀ እንደሚከናወንለት።
ሀብታም ያለ ድሀ አይኮራም፥ ድሀ ያለ ሀብታም አይበላም። ሀብታም ገን዗ቡን ያስባል፤ ድሀ ቀኑን ይቆጥራል።
ሀብታምና ሀብታም፥ አንተ ለእኔ፥ አንተ ለእኔ ይባባላሉ ምን ነው? ሀብታችኹ ባለበት ልባችኹም ይገኛል።
ሀብታችን በውርስ፥ ክብራችን በአዋጅ (ተገፍፎ)።
ሀብት እና ዕውቀት አይገኙ(ም) አንድነት። (አይገኙ(ም) ~ አይገኝ(ም)) ሀብት፥ የጠዋት ጤዚ ነው።
ሀብትና ዕውቀት አይገኝም በአንድነት።
ሀኪም ሲበዚ በሽተኛው ይሞታል። (በሽተኛው ~ በሽተኛ) ሀኪም የያ዗ው ነፍስ፥ ባያድር ይውላል።
ሀኪሞች እስኪመካከሩ በሽተኛው ይሞታል። ኀ዗ን ለሰነፎች፤ ደስታ ለብልኆች።
ሀገር ሲያረጅ እምቧጮ ያበቅላል። ሀገር ያለ ዳኛ፤ ትብትብ ያለመጫኛ።
ሀገርን ያለ አንድ ቸር ሰው አይተዋትም። ኀጢአተኛ ኀጢአቱ ያሳድደዋል። ኀጢአት ለሠሪው፤ ምሕረት ለአክባሪው። ኀጢአት ሲደጋግሙት ጽድቅ ይመስላል።
ሃላ ከመዙ፤ ምቀኛህ ብዙ።
ሃይማኖት የላለው ሰው፤ ል጑ም የላለው ፈረስ። ሃይማኖት ያለ ፍቅር፤ ጸልት ያለ ግብር።
ሆቴል ቢያብር ገን዗ብ ያስገኛል። ሆኖ ከመገኘት፥ መስል መታየት። ሆደ ሰፊ፤ ነገር አሳላፊ።
ሆደ ሰፊ፥ ይሻላል ከአኩራፊ። ሆደ ሲሞላ፥ ፍቅሩ ላላ።
ሆደ ሲሞላ፥ ፍቅሩ ላላ ፤ ሆደ ሲጎድል ሰው ያጋድል። ሆደ ናረት፤ ሙያው ከጅረት።
ሆደ ወድድ፥ አፉ ክድ፤ ክፉ ለምድ።
ሆደ ፈሪ፥ እግሩ ዳተኛ፤ አዳም ሲዋጋ፥ እርሱ ይተኛ። ሆደን የወደደ፥ ማዕረጉን የጠላ። (የጠላ ~ ይጠላል) ሆደን ያለ፥ ሆደን ተወጋ።
ሆዳ ሆዳ የሚለውን ጌታ ያየዋል፤ አይኔ አይኔ የሚለውን ሰው ያየዋል። ሆዳ በጀርባዬ ቢሆን፥ ገፍቶ ገደል በጣለኝ።
ሆዳ፥ ኑር በዳ።
ሆዳ፥ አታጣላኝ ከ዗መዳ። ሆዳ ከሞላ፤ ደረቴ ከቀላ። ሆዳ ይሙላ፤ ደረቴ ይቅላ።
ሆዳም ሰው ዕንብርት የለውም። ሆዳም (ሰው) ፍቅር አያውቅም። ሆዳም ቢሸከም፥ የበላ ይመስለዋል።
ሆዳም ቢፈተፍት፥ የበላ ይመስለዋል። (የበላ ~ የጠገበ)
ሆዳን በልቶኝ ጎኔን ቢያኩኝ አይገባኝ።
ሆድ ሆደን፥ የምትል ወፍ አለች፥ ምን አለች? ሆድ ለማታ በልቶ፥ ለጠዋት።
ሆድ ለባሰው፥ ማጭድ አታውሰው። (ማጭድ ~ ቢላዋ) ሆድ ለተባባሰው፥ ማጭድ አታውሰው።
ሆድ ሲሞላ፥ ራስ ባድ ይቀራል።
ሆድ ሲሞላ፥ ፍቅሩ ላላ፤ ሆድ ሲጎድል፥ ሰው ያጋድል። ሆድ ሲያር፤ ጥርስ ይሥቃል።
ሆድ ሲያውቅ፤ ድሮ ማታ። ሆድ ሲጎድል፥ ሰው ያጋድል። ሆድ በላኹ አይልም።
ሆድ ቢሸከም፥ የበላ ይመስለዋል። ሆድ ባድ(ን) ይጠላል። (ባድ ~ ራብ) ሆድ አየኹ አይልም።
ሆድ እንዳሳዩት ነው።
ሆድ ከአልሞላ፥ ጥርስ መቼ ይሥቃል። ሆድ ከአገር ይሰፋል።
ሆድ ከጀርባ ይቀርባል።
ሆድ ወድ፥ አፍ ክድ፥ ክፉ ለምድ።
ሆድ ዕዳ፥ ያስበላል ጎዳዳ። ሆድ ከሐዳድ ይሰፋል።
ሆድ ያባውን ብቅል ያወጣዋል።
ሆድ ይርበዋል፥ ቆዳ ይበርደዋል ክረምት። ሆድ ይፍጀው።
ሆድ ድንጋይ ልበላ ነው ቢል፥ ጐረሮ በየት አሳልፈህ? አለው።
ሆድ ዗መድ ሳይወድ፤ አፍ እህል ሳይለምድ። ሆድ የሸሸገውን ብቅል ያወጣዋል።
ሆድ፥ የእኔ ነው ሲሉት፥ ቁርጠት ሆኖ ይገድላል። ሆድ ያበላውን ያመሰገናል።
ሆድና ግንባር አይሸሸጉም። (አይሸሸጉም ~ አይሸሸግም) ሆድን በጎመን ቢደልሉት፥ ጉልበት (በ)ዳገት ይለግማል።
ሆድህና ልጅህ አይጣላህ። ሆድህና ልጅህ አይጥሉህ።
ሆድህን ጎመን ሙላው፥ ጀርባህን ለጠላት አታሳየው። (አታሳየው ~ አታሳይ)
ለሀብት መትጋት፥ ሰውነትን ያከሳል፤ ገን዗ብን ማሰብ፥ እንቅልፍ ይነሣል። ለኀጥአን የወረደ፥ ለጻድቃን ይተርፋል።
ለሆዳም ሰው ማብላት፤ ውቅያኖስን ለመደልደል መቃጣት። ለሆዳ ጠግቤ፤ ለልብሴ አንግቤ። (ለልብሴ ~ በልብሴ) ለሆድ ቁርጠት ብላበት፤ ለራስ ምታት ጩህበት።
ለሆዳም በሬ ገለባ ያዝለታል። (ገለባ ~ ጭድ) ለሆዳም በቅል ጭድ ያዝለታል።
ለላላ የሚመክር ለራሱ አያውቅም። ለላባ ቅላት ልብሱ ነው።
ለላሙ መንጃ፤ ለሸማው መቀደጃ። (መቀደጃ ~ መከንጃ) ለላም ቀንዶ አይከብዳትም።
ለላም ከጥጃዋና ከአላቢዋ፥ ማን ይቀርባታል። ለላም ከጥጃዋና ከአቢላሟ፥ ማን ይቀርባታል። ለላም፥ የሣር ለምለም።
ለላም ጥጃዋ፤ ለአህያ ውርንጭላዋ። ለላለው፥ ምን ትለው?
ለልደት ያልሆነ ቀሚስ ይበጣጠስ።
ለልጅ ሲሉ ይበሉ፤ ለወዳጅ ሲሉ ይጠሉ። (ለወዳጅ ~ ለወገን) ለልጅ አይሥቁለትም፤ ለውሻ አይሮጡለትም።
ለልጅ አገዳና ቀራ የለውም።
ለልጅ ከሣቁለት፤ ለውሻ ከሮጡለት (ነገር ተበላሸ)።
ለልጅ ጨዋታ፤ ለባለጌ ቧልታ። (ቧልታ ~ ቧልት)
End of preview. Expand in Data Studio

ProverbEval: Benchmark for Evaluating LLMs on Low-Resource Proverbs

This dataset accompanies the paper:
"ProverbEval: Exploring LLM Evaluation Challenges for Low-resource Language Understanding"
ArXiv:2411.05049v3

Dataset Summary

ProverbEval is a culturally grounded evaluation benchmark designed to assess the language understanding abilities of large language models (LLMs) in low-resource settings. It consists of tasks based on proverbs in five languages:

  • Amharic
  • Afaan Oromo
  • Tigrinya
  • Ge’ez
  • English

The benchmark focuses on three tasks:

  • Task 1: Multiple Choice Meaning Matching
  • Task 2: Fill-in-the-Blank
  • Task 3: Proverb Generation

Supported Tasks and Formats

Each task is formatted to support multilingual and cross-lingual evaluation:

Task 1: Meaning Multiple Choice

  • Input: A proverb in a given language.
  • Output: Select one correct meaning from four choices.
  • Format: Multiple-choice question with optional language variants for choices (native or English).

Task 2: Fill-in-the-Blank

  • Input: A proverb with one word removed and four candidate words.
  • Output: Select the most suitable word to complete the proverb.
  • Format: Cloze-style multiple-choice.

Task 3: Generation

  • Input: A detailed description of a proverb in English or the native language.
  • Output: The matching proverb generated in the target language.
  • Format: Text generation.

Languages and Statistics 


| Language     | Task 1 | Task 2 | Task 3 |
|--------------|--------|--------|--------|
| Amharic      | 483    | 494    | 484    |
| Afaan Oromo  | 502    | 493    | 502    |
| Tigrinya     | 380    | 503    | 380    |
| Ge’ez        | 434    | 429    | 434    |
| English      | 437    | 462    | 437    |

Note: The dataset focuses on test sets only. Few-shot examples are also included for Task 2.

Data Structure

Each example includes the following fields (depending on the task):

  • language
  • task
  • prompt
  • choices or description
  • answer or target_proverb
  • prompt_type (native or English)
  • choice_language (native or English)

Usage

You can load the dataset directly using the datasets library:

from datasets import load_dataset

# Load the full dataset
dataset = load_dataset("israel/ProverbEval")

.
├── amh
│   ├── amharic-fill_test.csv
│   ├── amh_english_test_1.csv
│   ├── amh_english_test_2.csv
│   ├── amh_english_test_3.csv
│   ├── amh_fill_1.csv
│   ├── amh_fill_2.csv
│   ├── amh_fill_3.csv
│   ├── amh_meaining_generation_english.csv
│   ├── amh_meaining_generation_native.csv
│   ├── amh_native_test_1.csv
│   ├── amh_native_test_2.csv
│   └── amh_native_test_3.csv
├── eng
│   ├── eng_fill_test.csv
│   ├── eng_meaining_generation_native.csv
│   ├── eng_native_test_1.csv
│   ├── eng_native_test_2.csv
│   └── eng_native_test_3.csv
├── geez
│   ├── geez_english_test_1.csv
│   ├── geez_english_test_2.csv
│   ├── geez_english_test_3.csv
│   ├── geez_fill_1.csv
│   ├── geez_fill_2.csv
│   ├── geez_fill_3.csv
│   └── geez_meaining_generation_english.csv
├── orm
│   ├── orm_english_test_1.csv
│   ├── orm_english_test_2.csv
│   ├── orm_english_test_3.csv
│   ├── orm_fill_1.csv
│   ├── orm_fill_2.csv
│   ├── orm_fill_3.csv
│   ├── orm_meaining_generation_english.csv
│   ├── orm_meaining_generation_native.csv
│   ├── orm_native_test_1.csv
│   ├── orm_native_test_2.csv
│   ├── orm_native_test_3.csv
│   └── oromo_fill_test.csv
└── tir
    ├── tir_fill_1.csv
    ├── tir_fill_2.csv
    └── tir_fill_3.csv

@article{azime2024proverbeval,
  title={ProverbEval: Exploring LLM Evaluation Challenges for Low-resource Language Understanding},
  author={Azime, Israel Abebe and Tonja, Atnafu Lambebo and Belay, Tadesse Destaw and Chanie, Yonas and Balcha, Bontu Fufa and Abadi, Negasi Haile and Ademtew, Henok Biadglign and Nerea, Mulubrhan Abebe and Yadeta, Debela Desalegn and Geremew, Derartu Dagne and others},
  journal={arXiv preprint arXiv:2411.05049},
  year={2024}
}
Downloads last month
234
Size of downloaded dataset files:
12.3 MB
Size of the auto-converted Parquet files:
6.82 MB
Number of rows:
50,552

Collection including israel/ProverbEval