Datasets:

DominiqueBrunato
/

TRACE-it_CALAMITA

UniqueID int64 1 566	Source stringclasses 7 values	ID-mapping stringlengths 3 7 ⌀	Condition stringclasses 11 values	Sentence1 stringlengths 32 140	Sentence2 stringlengths 20 87	NP target stringclasses 2 values	Gold stringclasses 2 values
1	Biondo et al. 2023	1_0	gen-num-match	Il professore che lo studente chiama apre la porta dell'aula.	Il professore sta aprendo una porta.	NP1	sì
2	Biondo et al. 2023	2_0	gen-num-match	L'allenatore che il nuotatore accusa commette un'infrazione del regolamento.	Il nuotatore sta accusando l’allenatore.	NP2	sì
3	Biondo et al. 2023	3_0	gen-num-match	L'attore che il ballerino ringrazia rompe il microfono nuovo.	L’attore sta ringraziando il ballerino.	NP1	no
4	Biondo et al. 2023	4_0	gen-num-match	Il nonno che il bambino insegue calpesta un sasso appuntito.	Il bambino ha calpestato un sasso.	NP2	no
5	Biondo et al. 2023	5_0	gen-num-match	Il pittore che il fotografo coinvolge inaugura una mostra d'avanguardia.	Il pittore è stato coinvolto dal fotografo.	NP1	sì
6	Biondo et al. 2023	6_0	gen-num-match	Il maestro che l'alunno aspetta perde l'autobus per casa.	L’alunno sta aspettando il maestro.	NP2	sì
7	Biondo et al. 2023	7_0	gen-num-match	Il locatore che l'inquilino interpella organizza un'assemblea condominiale.	Il locatore sta interpellando l’inquilino.	NP1	no
8	Biondo et al. 2023	8_0	gen-num-match	Il cuoco che il cameriere consulta introduce un menù per vegetariani.	Il cameriere è stato consultato dal cuoco.	NP2	no
9	Biondo et al. 2023	9_0	gen-num-match	Il direttore che l'impiegato avvisa conclude la riunione in anticipo.	Il direttore ha concluso una riunione.	NP1	sì
10	Biondo et al. 2023	10_0	gen-num-match	Il presentatore che il cantautore incontra ottiene un'intervista esclusiva.	Il cantautore sta incontrando il presentatore.	NP2	sì
11	Biondo et al. 2023	11_0	gen-num-match	L'infermiere che il dottore critica aggiorna i turni della settimana.	L’infermiere non ha aggiornato i turni settimanali.	NP1	no
12	Biondo et al. 2023	12_0	gen-num-match	Il commesso che il signore ignora riceve una chiamata urgente.	Il signore ha ricevuto una chiamata.	NP2	no
13	Biondo et al. 2023	13_0	gen-num-match	L'imprenditore che l'operaio avverte invia un ordine al fornitore.	L’imprenditore ha mandato un ordine.	NP1	sì
14	Biondo et al. 2023	14_0	gen-num-match	Il mediatore che l'investitore convince elenca rischi e vantaggi.	L’investitore sta convincendo il mediatore.	NP2	sì
15	Biondo et al. 2023	15_0	gen-num-match	Lo scrittore che il traduttore assiste ritira un premio molto ambito.	Lo scrittore non viene assistito dal traduttore.	NP1	no
16	Biondo et al. 2023	16_0	gen-num-match	Il parrucchiere che il truccatore osserva impara una tecnica innovativa.	Il truccatore è stato osservato dal parrucchiere.	NP2	no
17	Biondo et al. 2023	17_0	gen-num-match	Il cugino che lo zio ospita prepara il pranzo di Natale.	Il cugino viene ospitato dallo zio.	NP1	sì
18	Biondo et al. 2023	18_0	gen-num-match	Il postino che il vicino aiuta parcheggia la bicicletta sotto casa.	Il vicino presta aiuto al postino.	NP2	sì
19	Biondo et al. 2023	19_0	gen-num-match	Lo psicologo che l'amico ascolta prende una decisione inaspettata.	Lo psicologo prende una decisione scontata.	NP1	no
20	Biondo et al. 2023	20_0	gen-num-match	Il figlio che il suocero difende scongiura una discussione in famiglia.	Il suocero ha scongiurato una discussione famigliare.	NP2	no
21	Biondo et al. 2023	21_0	gen-num-match	Il disegnatore che il sarto affianca termina il campionario invernale.	Il disegnatore ha finito un campionario.	NP1	sì
22	Biondo et al. 2023	22_0	gen-num-match	Lo scultore che l'organizzatore accompagna mostra la galleria in ristrutturazione.	L’organizzatore sta accompagnando lo scultore.	NP2	sì
23	Biondo et al. 2023	23_0	gen-num-match	Il custode che il visitatore riconosce racconta un aneddoto divertente.	Il custode ha raccontato un aneddoto noioso.	NP1	no
24	Biondo et al. 2023	24_0	gen-num-match	L'allievo che l'esperto ostacola rovina la bozza del progetto.	L’esperto è stato ostacolato dall’allievo.	NP2	no
25	Biondo et al. 2023	25_0	gen-num-match	L'amico che il ragazzo benda celebra l'inizio della festa.	L’amico viene bendato dal ragazzo.	NP1	sì
26	Biondo et al. 2023	26_0	gen-num-match	Il pagliaccio che il ragazzo deride attira l'attenzione di tutti.	Il ragazzo sta prendendo in giro il pagliaccio.	NP2	sì
27	Biondo et al. 2023	27_0	gen-num-match	Il calciatore che l'avversario insulta segna un goal incredibile.	Il calciatore ha fallito un goal incredibile.	NP1	no
28	Biondo et al. 2023	28_0	gen-num-match	Il ristoratore che il cameriere minaccia chiude il locale per cattiva gestione.	Il cameriere ha chiuso il locale.	NP2	no
29	Biondo et al. 2023	29_0	gen-num-match	Il cuginetto che il ragazzino umilia confessa tutto ai genitori.	Il cuginetto ha detto tutto ai genitori.	NP1	sì
30	Biondo et al. 2023	30_0	gen-num-match	L'inquilino che il vicino disturba cambia casa a breve.	Il vicino sta disturbando l’inquilino.	NP2	sì
31	Biondo et al. 2023	31_0	gen-num-match	L'ubriacone che il cameriere spinge infastidisce la titolare del bar.	L’ubriacone sta dando una spinta al cameriere.	NP1	no
32	Biondo et al. 2023	32_0	gen-num-match	Il ragazzino che il cugino spaventa scappa in fretta dalla stanza.	Il cugino è stato spaventato dal ragazzino.	NP2	no
33	Biondo et al. 2023	33_0	gen-num-match	Il vicino che il nonno tranquillizza telefona ai vigili del fuoco.	Il vicino è stato tranquillizzato dal nonno.	NP1	sì
34	Biondo et al. 2023	34_0	gen-num-match	Il pasticciere che l'amico invita decora una torta con cura.	L’amico sta invitando il pasticciere.	NP2	sì
35	Biondo et al. 2023	35_0	gen-num-match	Il ladro che il poliziotto colpisce cade stremato sul suolo.	Il ladro è rimasto in piedi.	NP1	no
36	Biondo et al. 2023	36_0	gen-num-match	Il genitore che il maestro contatta evidenzia le difficoltà del bambino.	Il maestro ha sottolineato le difficoltà del bambino.	NP2	no
37	Biondo et al. 2023	37_0	gen-num-match	Il mafioso che l'uomo ferisce usa un coltello durante lo scontro.	Il mafioso ha usato un coltello.	NP1	sì
38	Biondo et al. 2023	38_0	gen-num-match	L'educatore che lo studente offende litiga con il preside della scuola.	Lo studente sta offendendo l’educatore.	NP2	sì
39	Biondo et al. 2023	39_0	gen-num-match	Il critico che il pittore giudica rilascia un'intervista molto pungente.	Il critico sta giudicando il pittore.	NP1	no
40	Biondo et al. 2023	40_0	gen-num-match	Il finanziere che l'imprenditore pedina raccoglie prove decisive.	L’imprenditore è stato pedinato dal finanziere.	NP2	no
41	Biondo et al. 2023	41_0	gen-num-match	L'avvocato che il direttore denuncia testimonia il falso davanti al giudice.	L’avvocato è stato denunciato dal direttore.	NP1	sì
42	Biondo et al. 2023	42_0	gen-num-match	Il consigliere che il ministro sprona primeggia nelle elezioni regionali.	Il ministro sta incitando il consigliere.	NP2	sì
43	Biondo et al. 2023	43_0	gen-num-match	Il neurologo che l'infermiere inganna abusa del suo potere in ospedale.	Il neurologo non abusa del suo potere in ospedale.	NP1	no
44	Biondo et al. 2023	44_0	gen-num-match	Il papà che il figlio sveglia arriva in ritardo alla riunione.	Il figlio è arrivato in ritardo alla riunione.	NP2	no
45	Biondo et al. 2023	45_0	gen-num-match	Il cognato che il figlio rincorre pattina velocemente verso la pista.	Il cognato sta pattinando.	NP1	sì
46	Biondo et al. 2023	46_0	gen-num-match	Il bidello che il professore elogia lavora da tanto tempo in questa scuola.	Il professore sta lodando il bidello.	NP2	sì
47	Biondo et al. 2023	47_0	gen-num-match	Il proprietario che il commesso rassicura accetta la richiesta di cambio turno.	Il proprietario sta rassicurando il commesso.	NP1	no
48	Biondo et al. 2023	48_0	gen-num-match	Lo sportivo che l'allenatore implora ascolta i suoi compagni di squadra.	L’allenatore è stato implorato dallo sportivo.	NP2	no
49	Biondo et al. 2023	49_0	gen-num-match	Lo sceneggiatore che l'attore premia presiede agli Oscar ogni anno.	Lo sceneggiatore riceve un premio dall’attore.	NP1	sì
50	Biondo et al. 2023	50_0	gen-num-match	Il signore che l'uomo deruba attraversa questo ponte ogni giorno.	L’uomo sta derubando il signore.	NP2	sì
51	Biondo et al. 2023	51_0	gen-num-match	Il giocatore che il compagno incoraggia merita il rispetto di tutti.	Il giocatore sta incoraggiando il compagno.	NP1	no
52	Biondo et al. 2023	52_0	gen-num-match	Il segretario che il senatore chiama appoggia i partiti dell'opposizione.	Il senatore ha dato il suo appoggio ai partiti dell’opposizione.	NP2	no
53	Biondo et al. 2023	53_0	gen-num-match	Il banchiere che l'avvocato accusa rischia la denuncia per truffa.	Il banchiere rischia di essere denunciato.	NP1	sì
54	Biondo et al. 2023	54_0	gen-num-match	Lo sposo che l'invitato ringrazia inciampa sul velo della sposa.	L’invitato dice grazie allo sposo.	NP2	sì
55	Biondo et al. 2023	55_0	gen-num-match	Il padre che il bambino insegue sorride alla moglie e agli amici.	Il padre sta inseguendo il bambino.	NP1	no
56	Biondo et al. 2023	56_0	gen-num-match	Il conduttore che l'attore coinvolge improvvisa una scenetta comica.	L’attore è stato coinvolto dal conduttore.	NP2	no
57	Biondo et al. 2023	57_0	gen-num-match	L'incaricato che l'anziano aspetta coordina gli ingressi in ospedale.	L’incaricato viene aspettato dall’anziano.	NP1	sì
58	Biondo et al. 2023	58_0	gen-num-match	Il poliziotto che l'avvocato interpella dubita dell'innocenza dell'imputato.	L’avvocato sta interpellando il poliziotto.	NP2	sì
59	Biondo et al. 2023	59_0	gen-num-match	Il filosofo che il sociologo consulta tiene un seminario per il dipartimento.	Il filosofo sta consultando il sociologo.	NP1	no
60	Biondo et al. 2023	60_0	gen-num-match	Il portiere che l'amministratore avvisa chiama il tecnico degli ascensori.	L’amministratore ha contattato il tecnico degli ascensori.	NP2	no
61	Biondo et al. 2023	61_0	gen-num-match	Il coreografo che il ballerino incontra abita dalle parti di Broadway.	Il coreografo abita vicino a Broadway.	NP1	sì
62	Biondo et al. 2023	62_0	gen-num-match	L'informatico che il segretario critica adora i pettegolezzi tra colleghi.	Il segretario sta criticando l’informatico.	NP2	sì
63	Biondo et al. 2023	63_0	gen-num-match	Il tutore che il bambino ignora chiede aiuto alla babysitter.	Il tutore non chiede alla babysitter di aiutarlo.	NP1	no
64	Biondo et al. 2023	64_0	gen-num-match	Il massaggiatore che il giocatore avverte suggerisce una sostituzione al mister.	Il giocatore è stato avvertito dal massaggiatore.	NP2	no
65	Biondo et al. 2023	65_0	gen-num-match	L'architetto che l'imprenditore convince partecipa alla gara d'appalto.	L’architetto è stato convinto dall’imprenditore.	NP1	sì
66	Biondo et al. 2023	66_0	gen-num-match	Lo scienziato che il biologo assiste conduce esperimenti sui topi.	Il biologo sta dando assistenza allo scienziato.	NP2	sì
67	Biondo et al. 2023	67_0	gen-num-match	Il ricercatore che il dottorando osserva propone una modifica all'esperimento.	Il ricercatore non propone di modificare l’esperimento.	NP1	no
68	Biondo et al. 2023	68_0	gen-num-match	Il pellegrino che l'anziano ospita programma un viaggio a Lourdes.	L’anziano ha in programma di viaggiare a Lourdes.	NP2	no
69	Biondo et al. 2023	69_0	gen-num-match	L'anziano che il signore aiuta gestisce una ditta di traslochi.	L’anziano si occupa di una ditta.	NP1	sì
70	Biondo et al. 2023	70_0	gen-num-match	L'ammalato che il dottore ascolta lamenta dolori muscolari.	Il dottore sta ascoltando l’ammalato.	NP2	sì
71	Biondo et al. 2023	71_0	gen-num-match	Il soldato che il compagno difende affronta l'ira del caporale.	Il soldato sta difendendo il compagno.	NP1	no
72	Biondo et al. 2023	72_0	gen-num-match	L'esperto che il truccatore affianca conosce tanti attori famosi.	Il truccatore viene affiancato dall’esperto.	NP2	no
73	Biondo et al. 2023	73_0	gen-num-match	Il condomino che l'amministratore accompagna abbandona l'appartamento a fine mese.	Il condomino viene accompagnato dall’amministratore.	NP1	sì
74	Biondo et al. 2023	74_0	gen-num-match	Il bigliettaio che il nonno riconosce regala i biglietti ai bambini.	Il nonno ha riconosciuto il bigliettaio.	NP2	sì
75	Biondo et al. 2023	75_0	gen-num-match	L'impresario che il lavoratore ostacola pensa solo ai suoi interessi.	L’impresario sta ostacolando il lavoratore.	NP1	no
76	Biondo et al. 2023	76_0	gen-num-match	L'animatore che il bambino benda gioca a mosca cieca con allegria.	Il bambino sta giocando a mosca cieca.	NP2	no
77	Biondo et al. 2023	77_0	gen-num-match	L'universitario che il professore deride risponde agli insulti con un gestaccio.	L’universitario ribatte agli insulti in malo modo.	NP1	sì
78	Biondo et al. 2023	78_0	gen-num-match	Lo studente che il bidello insulta fuma nei bagni della scuola.	Il bidello sta insultando lo studente.	NP2	sì
79	Biondo et al. 2023	79_0	gen-num-match	L'albergatore che l'impiegato minaccia tratta male il personale.	L’albergatore non è minacciato dall’impiegato.	NP1	no
80	Biondo et al. 2023	80_0	gen-num-match	Il presidente che il collaboratore umilia utilizza parole molto forti.	Il collaboratore è stato umiliato dal presidente.	NP2	no
81	Biondo et al. 2023	81_0	gen-num-match	Il neonato che il fratellino disturba piange a dirotto nella culla.	Il neonato è stato disturbato dal fratellino.	NP1	sì
82	Biondo et al. 2023	82_0	gen-num-match	Il compagno che il ragazzino spinge rivuole il pupazzo di Pikachu.	Il ragazzino sta dando una spinta al compagno.	NP2	sì
83	Biondo et al. 2023	83_0	gen-num-match	Lo zio che il nipotino spaventa ride di gusto per mezz'ora.	Lo zio non viene spaventato dal nipotino.	NP1	no
84	Biondo et al. 2023	84_0	gen-num-match	Il vigile che il guidatore tranquillizza annulla la multa fatta.	Il guidatore ha annullato la multa al vigile.	NP2	no
85	Biondo et al. 2023	85_0	gen-num-match	Il ministro che il collaboratore invita dirige una banca famosa.	Il ministro dirige una banca.	NP1	sì
86	Biondo et al. 2023	86_0	gen-num-match	Il capocuoco che il cameriere colpisce alza sempre la voce.	Il cameriere sta colpendo il capocuoco.	NP2	sì
87	Biondo et al. 2023	87_0	gen-num-match	L'uomo che l'operatore contatta reclama la disdetta dell'abbonamento.	L’uomo non è stato contattato dall’operatore.	NP1	no
88	Biondo et al. 2023	88_0	gen-num-match	Il dottorando che l'amico ferisce vive un periodo molto buio.	L’amico sta vivendo un brutto periodo.	NP2	no
89	Biondo et al. 2023	89_0	gen-num-match	Il sarto che il modello offende odia le sfilate di moda.	Il sarto è stato offeso dal modello.	NP1	sì
90	Biondo et al. 2023	90_0	gen-num-match	Il chirurgo che il cardiologo giudica parla sempre alle spalle.	Il cardiologo sta giudicando il chirurgo.	NP2	sì
91	Biondo et al. 2023	91_0	gen-num-match	Il marito che l'uomo pedina rifiuta il divorzio con la moglie.	Il marito concede il divorzio alla moglie.	NP1	no
92	Biondo et al. 2023	92_0	gen-num-match	Il politico che il ministro denuncia agisce sempre a sproposito.	Il ministro si comporta in maniera spropositata.	NP2	no
93	Biondo et al. 2023	93_0	gen-num-match	Il vecchio che il tifoso sprona allena la squadra da anni.	Il vecchio allena una squadra da tempo.	NP1	sì
94	Biondo et al. 2023	94_0	gen-num-match	Il fornitore che il venditore inganna ritarda l'invio intenzionalmente.	Il venditore sta ingannando il fornitore.	NP2	sì
95	Biondo et al. 2023	95_0	gen-num-match	Il nipotino che lo zio sveglia inizia una battaglia di cuscini.	Il nipotino smette di giocare con i cuscini.	NP1	no
96	Biondo et al. 2023	96_0	gen-num-match	L'alunno che il maestro rincorre detesta le gite scolastiche.	Il maestro odia le gite scolastiche.	NP2	no
97	Biondo et al. 2023	97_0	gen-num-match	L'illustratore che lo scrittore elogia realizza copertine per romanzi.	L’illustratore è stato elogiato dallo scrittore.	NP1	sì
98	Biondo et al. 2023	98_0	gen-num-match	Il primario che lo specializzando rassicura lascia il reparto incustodito.	Lo specializzando sta rassicurando il primario.	NP2	sì
99	Biondo et al. 2023	99_0	gen-num-match	Il coinquilino che l'amico implora pianifica un appuntamento a coppie.	Il coinquilino sta implorando l’amico.	NP1	no
100	Biondo et al. 2023	100_0	gen-num-match	Il cantautore che il poeta premia scrive testi molto ricercati.	Il poeta riceve un premio dal cantautore.	NP2	no

End of preview. Expand in Dataset Viewer.

Dataset Card for TRACE-it Challenge @ CALAMITA 2024

TRACE-it (Testing Relative clAuses Comprehension through Entailment in ITalian) has been proposed as part of the CALAMITA Challenge, the special event dedicated to the evaluation of Large Language Models (LLMs) in Italian and co-located with the Tenth Italian Conference on Computational Linguistics (https://clic2024.ilc.cnr.it/calamita/).

The dataset focuses on evaluating LLM's understanding of a specific linguistic structure in Italian: object-extracted relative clauses (ORCs). The assessment involves a yes/no entailment task in which the model is given two sentences. The first contains the target structure, and the second is a simple declarative sentence whose meaning may or may not be inferred from the first, based on the syntactic relationship between the two noun phrases in the ORC.

Dataset Details

Dataset Description

The benchmark contains 566 pairs of sentences, where the first sentence includes the ORC and the second sentence is the declarative sentence which can be implied or not by the first. The ORCs have been primarily sourced from linguistic and psycholinguistic literature to explore the impact of grammatical and semantic features on the processing difficulties humans face when reading ORCs.

A smaller portion of the dataset includes ORCs from existing NLP benchmarks, which are specifically designed to test language models' capabilities in recognizing sentence acceptability.

Dataset Structure

The dataset is provided as a tab-separated text file with the following information for each entry:

UniqueID: a numerical identifier for the entry;
Source: the original reference from which sentence1 has been taken.
ID-mapping: an identifier mapping for cross-referencing according to the Condition;
Condition: The type of ORC occurring in Sentence1, based on the features of the two NPs involved (i.e. gender, number, animacy, distance) and, when appropriate, relative configuration (i.e. match, mismatch);
Sentence1: the first sentence containing the ORC;
Sentence2: the second sentence that may or may not be implied by sentence1;
NP Target: indicates whether Sentence2 targets the head of the relative clause (NP1) or the subject of the embedded clause (NP2).;
Gold: the gold label assigned to the pair ("sì" if sentence 1 implied sentence 2, "no" otherwise).

[More Information Needed]