SuryaKrishna02/aya-telugu-poems

Summary

aya-telugu-poems is an open source dataset of instruct-style records generated by webscraping a Telugu poems website. This was created as part of Aya Open Science Initiative from Cohere For AI.

This dataset can be used for any purpose, whether academic or commercial, under the terms of the Apache 2.0 License.

Supported Tasks:

• Training LLMs
• Synthetic Data Generation
• Data Augmentation

Languages: Telugu Version: 1.0

Dataset Overview

aya-telugu-poems is a corpus of more than 5k records generated by webscraping of the Telugu poetry website. This Dataset can be used for the following three tasks:

• Given the poem and type of poetry, explain the meaning of the poem.
• Given the meaning and the type of poetry, generate the corresponding poem.
• Given the partial poem and type of poetry, generate the rest of the poem.

Intended Uses

While immediately valuable for instruction fine tuning large language models, as a corpus of instruction prompts, this dataset also presents a valuable opportunity for synthetic data generation in the methods. For example, prompt-completions could be submitted as few-shot examples to a large open language model to generate additional poems and their explanations.

Dataset

Load with Datasets

To load this dataset with Datasets, you'll just need to install Datasets as pip install datasets --upgrade and then use the following code:

from datasets import load_dataset
ds = load_dataset('SuryaKrishna02/aya-telugu-poems')

Purpose of Collection

Telugu is a low-resource language where there are no poetry instruct-style dataset to the best of my knowledge. This was created as a part of Aya Open Science Initiative from Cohere For AI to make sure Telugu is well represented in the space of AI/ML. Unlike other datasets that are limited to non-commercial use, this dataset can be used, modified, and extended for any purpose, including academic or commercial applications.

Sources

• Telugu Padyaluu Website: Performed webscraping from Telugu Padyaluu Website which consists of following 11 different types of poetry.
  1. వేమన శతకం
  2. శ్రీ కాళహస్తీశ్వర శతకం
  3. భాస్కర శతకం
  4. దాశరథి శతకం
  5. కృష్ణ శతకం
  6. సుమతీ శతకం
  7. భర్తృహరి సుభాషితాలు
  8. కుమార శతకం
  9. నరసింహ శతకం
  10. కుమారీ శతకం
  11. పోతన పద్యాలు
• Next, performed some pre-processing of the data like removing unwanted characters and similar poems by calculating the similarity score from the scraped data.
• Finally, converted the scraped data into Instruct-style prompts and completions.

Data Fields

• inputs : Prompt or input to the language model.
• targets : Completion or output of the language model.
• template_id : Id of the template used in inputs and targets.
• template_lang: ISO code of the language used in the inputs and targets where tel refers to Telugu.

Templates

For the creation of instruct-style prompts and completions from the scraped data, the following three templates categories with total of 18 different templates were used:

1. Given the poem and type of poetry, explain the meaning of the poem.

   template_id	inputs	targets
   1	క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యం ఇవ్వండి:\n{{Poem}}	ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యం:\n{{Meaning}}
   2	క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావం ఇవ్వండి:\n{{Poem}}	ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావం:\n{{Meaning}}
   3	క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావము ఇవ్వండి:\n{{Poem}}	ఇచ్చిన {{poetry_type}}లోని పద్యానికి భావము:\n{{Meaning}}
   4	క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యము ఇవ్వండి:\n{{Poem}}	ఇచ్చిన {{poetry_type}}లోని పద్యానికి తాత్పర్యము:\n{{Meaning}}
   5	క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధం ఇవ్వండి:\n{{Poem}}	ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధం:\n{{Meaning}}
   6	క్రింద ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధము ఇవ్వండి:\n{{Poem}}	ఇచ్చిన {{poetry_type}}లోని పద్యానికి అర్ధము:\n{{Meaning}}

2. Given the meaning and the type of poetry, generate the corresponding poem.

   template_id	inputs	targets
   7	క్రింద ఇచ్చిన తాత్పర్యం వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}	ఇచ్చిన తాత్పర్యం వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}
   8	క్రింద ఇచ్చిన భావం వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}	ఇచ్చిన భావం వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}
   9	క్రింద ఇచ్చిన భావము వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}	ఇచ్చిన భావము వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}
   10	క్రింద ఇచ్చిన తాత్పర్యము వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}	ఇచ్చిన తాత్పర్యము వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}
   11	క్రింద ఇచ్చిన అర్ధం వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}	ఇచ్చిన అర్ధం వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}
   12	క్రింద ఇచ్చిన అర్ధము వచ్చే లాగా {{poetry_type}} శైలిలో పద్యం రాయండి:\n{{Meaning}}	ఇచ్చిన అర్ధము వచ్చే {{poetry_type}} శైలి పద్యం:\n{{Poem}}

3. Given the partial poem and type of poetry, generate the rest of the poem.

   template_id	inputs	targets
   13	క్రింద ఇచ్చిన తాత్పర్యం అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nతాత్పర్యం:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}	పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}
   14	క్రింద ఇచ్చిన భావం అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nభావం:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}	పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}
   15	క్రింద ఇచ్చిన భావము అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nభావము:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}	పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}
   16	క్రింద ఇచ్చిన తాత్పర్యము అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nతాత్పర్యము:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}	పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}
   17	క్రింద ఇచ్చిన అర్ధం అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nఅర్ధం:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}	పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}
   18	క్రింద ఇచ్చిన అర్ధము అనుసరించి అసంపూర్ణమైయిన పద్యాన్ని {{poetry_type}} శైలిలో పూర్తిచేసి రాయండి:\nఅర్ధము:\n{{Meaning}}\n\nఅసంపూర్ణమైయిన పద్యం:\n{{Partial Poem}}	పూర్తిచేయబడ్డ పద్యం క్రింద ఇవ్వబడింది:\nపద్యం:\n{{Poem}}

Personal or Sensitive Data

This dataset contains public information. To our knowledge, there are no private person’s personal identifiers or sensitive information.

Language

Telugu

Known Limitations

• The Dataset is scraped from the poetry website and the contents of this dataset may reflect the bias, factual errors and sensitive matters.
• Although there is utmost care taken to keep the dataset as monolingual, there might be some records that may contain English Language along with Telugu.

Contributors

SuryaKrishna02 and Desik98