Datasets:

nhagar
/

redpajama-data-v2_urls

Modalities:

Text

Formats:

parquet

Size:

1M - 10M

DOI:

Libraries:

Datasets

Dask

Dataset card Data Studio Files Files and versions

xet

Community

Dataset Viewer

Auto-converted to Parquet

Split (1)

train · 9.18M rows

url stringlengths 13 4.15k	domain stringlengths 3 67
http://de.wikipedia.org/wiki/Fu%C3%9Fball-Bundesliga_1992/93	wikipedia.org
http://de.wikipedia.org/wiki/Leo_von_Caprivi	wikipedia.org
http://de.wikipedia.org/wiki/Paul_Vittorelli	wikipedia.org
http://de.wikipedia.org/wiki/STS-37	wikipedia.org
http://edoc.hu-berlin.de/docviews/abstract.php?lang=ger&id=37029	hu-berlin.de
http://wikitravel.org/wiki/de/index.php?title=Andere_Ziele&diff=113410&oldid=113219	wikitravel.org
http://www.bachverein-duesseldorf.de/	bachverein-duesseldorf.de
http://www.bibb.de/de/ausbildungsprofil_1890.htm	bibb.de
http://www.demographie-online.de/index.php?id=130	demographie-online.de
http://www.dlr.de/mp/en/desktopdefault.aspx/tabid-1620/6111_read-35694/usetemplate-print/	dlr.de
http://www.hohenstein.com/de/inline/pressrelease_29440.xhtml	hohenstein.com
http://www.km.bayern.de/wissenschaft-und-kunst/meldung/2488/afrikastudien-neues-forschungsinstitut-brias-buendelt-kompetenzen.html	bayern.de
http://www.kunsthaus.ch/de/sammlung/restaurierung/beispiele-aus-der-praxis/alberto-giacometti/?redirect_url=title%3DExposition	kunsthaus.ch
http://www.liligo.co.uk/cheap-hotels/hotels-munich_de/vi-vadi-hotel_66380/	liligo.co.uk
http://www.orf.at/stories/2135827/	orf.at
http://www.smb.museum/museen-und-einrichtungen/museum-fuer-islamische-kunst/home.html?tx_smb_pi1%5Bcollection%5D=3&tx_smb_pi1%5Bevent%5D=72349&cHash=554dbb635a035b5d14fd0a788e760d97	smb.museum
http://www.transfermarkt.de/de/anthar-yahia/news/spieler_5586.html	transfermarkt.de
http://www.weloennig.de/mendel17.htm	weloennig.de
http://de.wikipedia.org/wiki/Mickey_Mantle	wikipedia.org
http://duepublico.uni-duisburg-essen.de/servlets/DozBibEntryServlet?mode=show&id=24803	uni-duisburg-essen.de
http://open-access.net/de/allgemeines/rechtsfragen/lizenzen	open-access.net
http://www.drweb.de/magazin/rss-%E2%80%93-permission-marketing-at-its-best/	drweb.de
http://www.ebay.de/itm/370546030119	ebay.de
http://www.esl.de/de/unsere-mitarbeiter/innen-auf-reisen-die-pub-kultur-in-irland-famtrip-irland-2011.htm	esl.de
http://www.iisli.com/vogelgrippe.html	iisli.com
http://www.kunsthaus.ch/de/sammlung/provenienzen/?redirect_url=title%253DCommunique%25EF%25BF%25BD%201c%25C2%25A9s	kunsthaus.ch
http://www.laut.de/Cris-Cosmo	laut.de
http://www.tiscover.com/at/guide/5,de/objectId,RGN788at,mainObjId,ACC109490at/home.html	tiscover.com
http://www.tuifly.com/de/billigfluege-berlin-tegel	tuifly.com
https://de.wikipedia.org/wiki/Aufmerksamkeit	wikipedia.org
http://de.wikipedia.org/wiki/Burke_County_(North_Carolina)	wikipedia.org
http://de.wikipedia.org/wiki/OTRAG	wikipedia.org
http://de.wikipedia.org/wiki/Tosiwo_Nakayama	wikipedia.org
http://freepages.genealogy.rootsweb.ancestry.com/~deesegenes/666.htm	ancestry.com
http://harztheater.de/theaterfest	harztheater.de
http://kanotix.com/PNphpBB2-viewtopic-t-23515-sid-34d8305872ab767b2246ccc23d901c74.html	kanotix.com
http://mietkautionskonto.info/glossar/kautionskonto/	mietkautionskonto.info
http://www.alcoa.com/switzerland/de/general/legal.asp	alcoa.com
http://www.deutschland-reise.de/urlaub/ostsee/	deutschland-reise.de
http://www.ebay.de/itm/DUNLOP-DDH-XD-Golfschlager-Eisen-8-9-PW-SW-Graphit-NEU-/180709169892?pt=Sport_Golf_Golfschl%C3%A4ger&var=&hash=item2a131b1ae4	ebay.de
http://www.engelorakel.org/category/engelkarten/	engelorakel.org
http://www.hannover-airport.de/index.php?id=2092&L=-999&tx_vcairportcolumbus_pi1%5Baction%5D=fetchInfo&tx_vcairportcolumbus_pi1%5Bmaintype%5D=1&tx_vcairportcolumbus_pi1%5Bcolcode%5D=mnt&tx_vcairportcolumbus_pi1%5Bsubtype_infos%5D=13	hannover-airport.de
http://www.huenig.ch/de/taetigkeit/	huenig.ch
http://www.kinderzeitmaschine.de/antike/kultur/griechen/epoche/alexander-und-hellenismus/ereignis/alexander-der-grosse.html?ut1=7&ut2=49	kinderzeitmaschine.de
http://www.mlwerke.de/me/me13/me13_007.htm	mlwerke.de
http://www.museum-folkwang.de/de/veranstaltungen/weiterempfehlen.html?desktop=1&tx_folveranstaltungen_pi2%5Bdate%5D=1215&tx_folveranstaltungen_pi2%5Btype%5D=event&tx_folveranstaltungen_pi2%5Bsubevent%5D=2119	museum-folkwang.de
http://www.oper-frankfurt.de/de/page931.cfm?stueck=422&stueckdatum=2137&preis	oper-frankfurt.de
http://www.orf.at/stories/2130501/	orf.at
http://www.pi-news.net/2013/01/amsterdam-lasst-auslanderfeinde-deportieren/print/	pi-news.net
http://www.saratz.ch/hotel-saratz/news-events/events/events-single/news/DJ_MARCI_G_D.html?tx_ttnews%5Bpointer%5D=1&tx_ttnews%5BbackPid%5D=109&cHash=90757e89a8c3aa8f4b2a6180ce2dc533	saratz.ch
http://www.tagesspiegel.de/zeitung/der-urvater-des-comics/1125978.html	tagesspiegel.de
https://de.wikipedia.org/wiki/Betriebswirtschaftliche_Kennzahl	wikipedia.org
https://de.wikipedia.org/wiki/Zwillinge_(Sternbild)	wikipedia.org
https://newrangeroversport.landrover.com/at/de/explore/features/m3/explore	landrover.com
http://de.wikipedia.org/wiki/Beaver_County_(Pennsylvania)	wikipedia.org
http://de.wikipedia.org/wiki/Donskoi-Kloster	wikipedia.org
http://de.wikipedia.org/wiki/Leonard_Susskind	wikipedia.org
http://de.wikipedia.org/wiki/Thomas_Cavalier-Smith	wikipedia.org
http://publikationen.ub.uni-frankfurt.de/solrsearch/index/search/searchtype/authorsearch/author/%22Volker+Mertens%22/start/0/rows/10/languagefq/deu/subjectfq/Textgeschichte	uni-frankfurt.de
http://www.a-k-i.org/index.php?id=17&type=98	a-k-i.org
http://www.bwb.org/portal/a/bwb/!ut/p/c4/FcoxDoAgDAXQE0l3N0-huP02DTSRQtDA9dW89dFJH8ewhMeq46KDotjKM_DkMLQnsIZHJbvdtP-9daQCil4XgWSlVsr2AtSxRZ8!/	bwb.org
http://www.counter-currents.com/2012/04/teuflische-passion-ariel-toaffs-blood-passovers/	counter-currents.com
http://www.e-lib.ch/en/News?c=4	e-lib.ch
http://www.khm.at/it/besuchen/esposizioni/lucian-freud/	khm.at
http://www.konzerthaus-dortmund.de/agb.html?konzerthausAdmin=b431ae076c862a97fb8cd73030021612	konzerthaus-dortmund.de
http://www.macnotes.de/2012/06/28/bluestacks-android-apps-auf-dem-mac-ausfuhren/	macnotes.de
http://www.macnotes.de/thema/q3-2010/	macnotes.de
http://www.ra-kotz.de/mehrarbeitsverguetung.htm	ra-kotz.de
http://www.slpl.org/slpl/gateways/article240117800.asp?namefield3=2000&namefield1=Oligschlager,%20Sybilla	slpl.org
http://www.unesco.de/unesco_verfassung.html?L=3	unesco.de
https://de.wikipedia.org/wiki/Masalit_(Volk)	wikipedia.org
http://de.wikipedia.org/wiki/George_Ferguson_Bowen	wikipedia.org
http://de.wikipedia.org/wiki/M%C3%A1rio_Pires	wikipedia.org
http://de.wikipedia.org/wiki/Ottomotor	wikipedia.org
http://de.wikipedia.org/wiki/Rolling_Release	wikipedia.org
http://de.wikipedia.org/wiki/Schwulststil	wikipedia.org
http://de.wikipedia.org/wiki/Yangqin	wikipedia.org
http://docs.blackberry.com/de-de/smartphone_users/deliverables/19606/Attach_a_file_to_an_email_message_664783_11.jsp	blackberry.com
http://edoc.hu-berlin.de/dissertationen/bogatu-bettina-ulrike-2004-05-21/HTML/chapter2.html	hu-berlin.de
http://publikationen.ub.uni-frankfurt.de/solrsearch/index/search/searchtype/authorsearch/author/%22Herbert+Zucchi%22	uni-frankfurt.de
http://www.ahorn-net.de/	ahorn-net.de
http://www.cenelec.eu/dyn/www/f?p=104:110:1273986393063221::::FSP_PROJECT,FSP_LANG_ID:16860,22	cenelec.eu
http://www.dlr.de/pw/desktopdefault.aspx/tabid-6050/10037_read-36042/usetemplate-print/	dlr.de
http://www.eventim.de/tickets.html?doc=city&fun=ortsliste&detailadoc=erdetaila&detailbdoc=evdetailb&ortId=11&hkId=7&kategorie=4G&venue=K%C3%BCnstlerhaus+am+Lenbachplatz&sort_by=event_name1&sort_direction=asc&nurbuchbar=true	eventim.de
http://www.fewo-direkt.de/urlaub-ferienwohnung-ferienhaus/slowenien/r1811	fewo-direkt.de
http://www.fides.org/de/news/8966-AFRIKA_MAROKKO_Erzbischof_von_Tanger_ernannt	fides.org
http://www.hannover-airport.de/index.php?id=2095&L=8&tx_vcairportcolumbus_pi1%5Baction%5D=fetchInfo&tx_vcairportcolumbus_pi1%5Bmaintype%5D=1&tx_vcairportcolumbus_pi1%5Bcolcode%5D=tls&tx_vcairportcolumbus_pi1%5Bsubtype_infos%5D=5	hannover-airport.de
http://www.hannover-airport.de/index.php?id=datenschutz&no_cache=1&tx_macinabanners_pi1%5Bbanneruid%5D=185	hannover-airport.de
http://www.in-wetter.at/blitze/?cas=1338831024	in-wetter.at
http://www.jaeger-lecoultre.com/US/de/country/?redirect=%2FUS%2Fde%2Fcontent%2Fle-programme-d-integration-des-nouveaux-collaborateurs	jaeger-lecoultre.com
http://www.macnotes.de/2014/01/16/update-mac-habu-14-sepa-outbank/	macnotes.de
http://www.macnotes.de/thema/buddy-rush/	macnotes.de
http://www.oper-frankfurt.de/de/page412.cfm?hptdatum=2013-3-22	oper-frankfurt.de
http://www.oper-frankfurt.de/de/page49.cfm?hptdatum=2013-10-20	oper-frankfurt.de
http://www.theopenmag.org/category/design-technologie/design/	theopenmag.org
http://www.worldticketshop.com/concerts/das_fruhlingsfest_der_volksmusik_tickets	worldticketshop.com
http://www2.leuphana.de/ffb/20JahreFFB/	leuphana.de
https://www.lufthansa.com/online/portal/lh/xx/info_and_services/partner?nodeid=1251344134&l=de&cid=1000234	lufthansa.com
http://blog.capellahotels.com/2012/05/der-gerahmte-kolner-dom/	capellahotels.com
http://de.wikipedia.org/wiki/Jens_Reich	wikipedia.org

End of preview. Expand in Data Studio

YAML Metadata Warning: empty or missing yaml metadata in repo card (https://huggingface.co/docs/hub/datasets-cards)

Dataset Card for redpajama-data-v2_urls

This dataset provides the URLs and top-level domains associated with training records in togethercomputer/RedPajama-Data-V2. It is part of a collection of datasets curated to make exploring LLM training datasets more straightforward and accessible.

Dataset Details

Dataset Description

This dataset was created by downloading the source data, extracting URLs and top-level domains, and retaining only those record identifiers. In doing so, it allows researchers and practitioners to explore the contents of these training datasets without having to manage terabytes of raw text. You can explore the pipeline used to construct this dataset on GitHub.

Curated by: Nick Hagar and Jack Bandy
License: Same as source dataset

Dataset Sources

Repository: togethercomputer/RedPajama-Data-V2

Uses

This dataset is intended to allow researchers and practitioners to analyze the contents of large LLM training datasets without having to wade through terabytes of unwieldy text data.

Direct Use

The main use case for these data is to explore the contents of LLM training datasets at scale. This might involve:

Identifying the most-used websites
Categorizing URLs to understand domain- or topic-level dataset composition
Comparing URLs across datasets
Digging into inclusion/exclusion patterns for a particular website

Out-of-Scope Use

This dataset is not intend to replicate or replace the source data, nor is it intended to enable large-scale scraping of the URLs listed. For source text, refer to the original dataset.