stefan-it/awesome-tagesschau

Awesome Tagesschau Dataset

This repository presents the new Awesome Tagesschau dataset. The dataset contains various news articles from the German Tagesschau website:

tagesschau.de is the central news portal of ARD (ARD is a joint organisation of Germany's regional public-service broadcasters). The website provides a round-the-clock overview of the current news situation, supplemented by background information. The editorial team relies on the extensive network of ARD correspondents in Germany and the ARD foreign studios. In addition to texts, the service also includes television and radio reports.

(Source: Wikipedia)

In total, the Awesome Tagesschau dataset consists of 56,896 articles.

Crawling I.

Here's an overview about the "crawling" process, that was performed for constructing this dataset.

First, all so called "archive URL" were fetches from the Tagesschau online archive, which can be found here. An archive URL contains year, month and day and has the following form:

https://www.tagesschau.de/archiv?datum=2023-01-01

This URL shows all news articles that were released in whole January of 2023. Paging is also possible with the following form:

https://www.tagesschau.de/archiv?datum=2023-01-01&pageIndex=3

Unfortunately, starting from 01.07.2024 it is no longer possible to retrieve all articles for a specific month. Instead, one has to iterate over all days in a month, like:

https://www.tagesschau.de/archiv?datum=2024-07-02
https://www.tagesschau.de/archiv?datum=2024-07-03

But no worries, it was all done for creating this dataset!

Crawling II

After retrieving all archive URLs, the next step is to extract all links to news articles. This is done with Beautiful Soup, and only a few lines of code are necessary:

import bs4 as bs
import urllib.request

tagesschau_url = "https://www.tagesschau.de"
demo_url = "https://www.tagesschau.de/archiv?datum=2006-01-01"
website_content = urllib.request.urlopen(demo_url).read()

parser = bs.BeautifulSoup(website_content, features="html.parser")
container = parser.find('div', attrs={'class': 'container'})
elems = container.findChildren("a", attrs={'class': 'teaser-right__link'})

found_urls = []

for elem in elems:
    # Avoid links to external sources, like DW
    if not elem["href"].startswith("/"):
        continue
    found_url = f"{tagesschau_url}{elem["href"]}"
    found_urls.append(found_url)
print(found_urls)

Very easy and kind of robust.

Crawling III

In the next step we use the shiny and new Tagesschau API, that probaly is not very well known.

For each retrieved article url we send a request to that API to get the full article, including metadata and additional information.

A request looks like:

import requests

api_url = "https://www.tagesschau.de/api2u"

extracted_url = "https://www.tagesschau.de/inland/meldung-ts-2384.html"
extracted_url = extracted_url.replace("https://www.tagesschau.de", "")
new_url = f"{api_url}{extracted_url}"

r = requests.get(new_url)

data = r.json()

Dataset Format

Here's an example of the JSON format, that is returned by the Tagesschau API. Note: we do not change anything and host the "raw" output for each article in this dataset.

{
  "sophoraId" : "meldung-ts-132",
  "externalId" : "tagesschau_con5007866",
  "title" : "Merkel gewinnt an Zuspruch",
  "date" : "2006-01-05T11:50:33.204+01:00",
  "teaserImage" : {
    "copyright" : "ARD",
    "alttext" : "DeutschlandTrend",
    "imageVariants" : {
      "1x1-144" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLnQzw/1x1-144.jpg",
      "1x1-256" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLngyM/1x1-256.jpg",
      "1x1-432" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLnxOE/1x1-432.jpg",
      "1x1-640" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLoHlI/1x1-640.jpg",
      "1x1-840" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLoaiw/1x1-840.jpg",
      "16x9-256" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLjFsA/16x9-256.jpg",
      "16x9-384" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLjwNU/16x9-384.jpg",
      "16x9-512" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLkKfc/16x9-512.jpg",
      "16x9-640" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLkm68/16x9-640.jpg",
      "16x9-960" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLlUbs/16x9-960.jpg",
      "16x9-1280" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLhkrw/16x9-1280.jpg",
      "16x9-1920" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLiamM/16x9-1920.jpg"
    },
    "type" : "image"
  },
  "tags" : [ {
    "tag" : "DeutschlandTrend"
  } ],
  "updateCheckUrl" : "https://www.tagesschau.de/api2u/meldung-ts-132.json?view=hasChanged&lastKnown=8F9E5A7A707A7A4370E25A2647AD042F",
  "content" : [ {
    "value" : "<strong>Angela Merkel hat in den ersten sechs Wochen ihrer Amtszeit ihren Zuspruch in der Bevölkerung ausbauen können. Nach dem Ergebnis des ARD-Deutschlandtrends halten 60 Prozent der Bundesbürger sie für eine \"gute Kanzlerin\". Vor einem Monat waren es nur 49 Prozent. Auch die Union legt in der Wählergunst zu.</strong>",
    "type" : "text"
  }, {
    "value" : "<em>Von Jörg Schönenborn</em>",
    "type" : "text"
  }, {
    "value" : "Bundeskanzlerin Angela Merkel hat in den ersten sechs Wochen ihrer Amtszeit ihren Zuspruch in der Bevölkerung ausbauen können. 60 Prozent der Befragten im ARD-DeutschlandTrend bescheinigen Merkel eine gute Amtsführung, das sind elf Punkte mehr als im Dezember. Lediglich 13 Prozent vertreten die Ansicht, Merkel sei keine so gute Regierungschefin. Gut jeder Vierte (27 Prozent) kann oder will sich noch kein Urteil über sie erlauben.",
    "type" : "text"
  }, {
    "value" : "Die große Koalition steht im Meinungsbild der Bevölkerung recht gut da, wenn auch nicht ganz so gut wie die Kanzlerin. 42 Prozent zeigen sich mit der Arbeit des Kabinetts zufrieden. Die Vorgängerregierung wurde gegen Ende ihrer Amtszeit lediglich von 25 Prozent positiv beurteilt.",
    "type" : "text"
  }, {
    "value" : "<h2>Sonntagsfrage: Union legt deutlich zu</h2>",
    "type" : "headline"
  }, {
    "value" : "Vom vergleichsweise guten Ansehen der Bundesregierung und der gestiegenen Popularität der Bundeskanzlerin kann vor allem Merkels Partei profitieren: Wäre am nächsten Sonntag erneut Bundestagswahl, käme die Union auf 39 Prozent der Stimmen, ein deutliches Plus von drei Prozentpunkten im Vergleich zur letzten Erhebung Ende Dezember. Dieser Zugewinn geht zu Lasten der SPD, die einen Punkt verliert und jetzt auf einen Wähleranteil von 31 Prozent käme. Auch die Linkspartei.PDS gibt einen Punkt ab und würde jetzt neun Prozent erreichen. Damit sind derzeit alle drei kleinen Parteien gleich stark, denn FDP und Bündnis90/Grüne kämen wie vor zwei Wochen ebenfalls auf einen Stimmenanteil von jeweils neun Prozent.",
    "type" : "text"
  }, {
    "value" : "<h2>Außenminister Steinmeier Gewinner des Monats</h2>",
    "type" : "headline"
  }, {
    "value" : "Die erfolgreiche Lösung des Entführungsfalls Susanne Osthoff kurz vor Weihnachten hat die Popularität von Außenminister Frank-Walter Steinmeier nach oben katapultiert. Anfang Dezember sahen sich noch 60 Prozent außer Stande, seine Arbeit zu bewerten. Vier Wochen später ist dieser Wert auf 35 Prozent zurückgegangen. Nach Meinung von 46 Prozent leistet der Außenminister gute Arbeit in seinem Amt, lediglich 14 Prozent sind damit unzufrieden.",
    "type" : "text"
  }, {
    "value" : "Die größte Zustimmung für seine Arbeit erhält Bundespräsident Horst Köhler von 78 Prozent der Bevölkerung. Auf ihn folgt Angela Merkel mit 67 Prozent Zustimmung, ein Plus von acht Punkten gegenüber Anfang Dezember. Ausgesprochen positiv beurteilt werden von der Mehrheit der Bürger trotz leichter Verluste auch der SPD-Vorsitzende Matthias Platzeck (57 Prozent, -1), Innenminister Wolfgang Schäuble (52 Prozent, -4) und Arbeitsminister Franz Müntefering (52 Prozent, -3). Leicht Rückgänge im Ansehen sind auch bei den Politikern auf den mittleren Rangplätzen der Beliebtheitsskala zu verzeichnen. Der niedersächsische Ministerpräsident Christian Wulff erreicht 48 Prozent Zustimmung (-3). Landwirtschaftsminister Horst Seehofer muss einen Verlust von fünf Punkten hinnehmen und erreicht wie Außenminister Steinmeier 46 Prozent Zustimmung. Ihnen folgt Finanzminister Peer Steinbrück, der ein leichtes Plus von drei Punkten erzielen konnte und nun von 45 Prozent Lob für seine Arbeit bekommt.",
    "type" : "text"
  }, {
    "value" : "<h2>Große Mehrheit für mehr regenerative Energien</h2>",
    "type" : "headline"
  }, {
    "value" : "Der Streit um einen höheren Erdgaspreis zwischen Russland und der Ukraine hat die Frage nach der Zuverlässigkeit Russlands als Gaslieferant für Deutschland aufgeworfen. Immerhin 39 Prozent der Bürger zweifeln an der Verlässlichkeit des russischen Geschäftspartners. Um weniger abhängig von ausländischen Energielieferanten zu sein, ist eine Diskussion über andere Energiequellen entbrannt. Die stärkere Nutzung einheimischer Kohle bzw. Atomkraft ist nur für 17 bzw. 25 Prozent eine überzeugende Alternative. Nach Ansicht einer großen Mehrheit der Bürger (81 Prozent) sollte Deutschland vor allem auf erneuerbare Energien wie Sonnenenergie und Windkraft zur Energieerzeugung setzen.",
    "type" : "text"
  }, {
    "value" : "<h2>Pessimistische Zukunftserwartungen</h2>",
    "type" : "headline"
  }, {
    "value" : "Was die Lösung der zentralen politischen Probleme betrifft, blicken die Deutschen eher pessimistisch in die Zukunft. Deutliche Mehrheiten glauben nicht, dass die Arbeitslosigkeit in diesem Jahr zurück gehen wird und die Bundesregierung die Haushaltsprobleme in den Griff bekommt (jeweils 67 Prozent). Noch am optimistischsten wird die konjunkturelle Entwicklung eingeschätzt - hier prognostizieren immerhin vier von zehn Deutschen (41 Prozent) einen deutlichen Aufschwung. Doch auch in dieser Frage überwiegen die Skeptiker (54 Prozent).",
    "type" : "text"
  } ],
  "tracking" : [ {
    "sid" : "app.inland.deutschlandtrend.meldung-ts-132",
    "src" : "tagesschau",
    "ctp" : "DEUTSCHLANDTREND",
    "pdt" : "20060105T1150",
    "otp" : "meldung",
    "cid" : "meldung-ts-132",
    "pti" : "ARD-DeutschlandTrend_Januar_2006",
    "bcr" : "nein",
    "type" : "generic",
    "av_full_show" : false
  } ],
  "topline" : "ARD-DeutschlandTrend Januar 2006",
  "firstSentence" : "Angela Merkel hat in den ersten sechs Wochen ihrer Amtszeit ihren Zuspruch in der Bevölkerung ausbauen können.",
  "images" : [ {
    "copyright" : "ARD",
    "alttext" : "DeutschlandTrend",
    "imageVariants" : {
      "1x1-144" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLnQzw/1x1-144.jpg",
      "1x1-256" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLngyM/1x1-256.jpg",
      "1x1-432" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLnxOE/1x1-432.jpg",
      "1x1-640" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLoHlI/1x1-640.jpg",
      "1x1-840" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLoaiw/1x1-840.jpg",
      "16x9-256" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLjFsA/16x9-256.jpg",
      "16x9-384" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLjwNU/16x9-384.jpg",
      "16x9-512" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLkKfc/16x9-512.jpg",
      "16x9-640" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLkm68/16x9-640.jpg",
      "16x9-960" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLlUbs/16x9-960.jpg",
      "16x9-1280" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLhkrw/16x9-1280.jpg",
      "16x9-1920" : "https://images.tagesschau.de/image/47dedcab-ee73-4e87-96b2-4576f3873eaf/AAABle6GVK8/AAABkZLiamM/16x9-1920.jpg"
    },
    "type" : "image"
  } ],
  "details" : "https://www.tagesschau.de/api2u/inland/deutschlandtrend/meldung-ts-132.json",
  "detailsweb" : "https://www.tagesschau.de/inland/deutschlandtrend/meldung-ts-132.html",
  "shareURL" : "https://www.tagesschau.de/inland/deutschlandtrend/meldung-ts-132.html",
  "geotags" : [ ],
  "regionId" : 0,
  "regionIds" : [ ],
  "ressort" : "inland",
  "breakingNews" : false,
  "type" : "story"
}

Dataset Stats

Year	Articles
2005	4
2006	211
2007	888
2008	778
2009	1,372
2010	1,261
2011	1,632
2012	1,577
2013	1,318
2014	1,135
2015	1,674
2016	1,553
2017	1,139
2018	1,494
2019	2,127
2020	2,291
2021	1,862
2022	3,540
2023	11,568
2024	13,793
2025	5,679
Total	56,896

Or as nice visualization:

Use Cases

There a many use cases, where this dataset can help:

• LM: If you search for high-quality data to train LMs or LLMs for German: go for it!
• Summarization: Look at the first entry of the content array of each newspaper article. A potential <strong> tag is used to decorate the short description of an article. Given that information, it is possible to construct a summarization dataset.
• Topic Classification: The type information can be useful to train various kind of classification models. Also the ressourt information can be quite useful.
• In detail analysis: Very recently a paper about analysing German newspapers (for Gender Bias and Discrimination) was published. However, the dataset is not freely available, so why not use this dataset for similar analysis?

Overall, the dataset comes in the rawest form (no preprocessing is done, no information were removed) possible, which allows great research on German NLP.

Changelog

• 26.06.2025: Initial version of the dataset.

License

This is indeed a very interesting question. I've found another dataset with crawled articles from Tagesschau website. However, no license was specified there.

So the dataset here is intended for research purposes, under CC-BY-NC-SA-4.0.

But why not use more unrestricted license, as a lot of German citizens have paid for these articles - see Rundfunkbeitrag in German.

Well, I don't have money left for any legal risks.

I am just caring about boosting research on German and providing datasets to foster research in the German NLP scene.