Upload folder using huggingface_hub
Browse files- DeepMount00/Llama-3-8b-Ita_5.json +28 -0
- DeepMount00/Llama-3-COT-ITA_13.json +28 -0
- DeepMount00/Qwen2-1.5B-Ita_17.json +28 -0
- FairMind/Llama-3-8B-4bit-UltraChat-Ita_22.json +28 -0
- MoxoffSpA/Volare_12.json +28 -0
- Qwen/Qwen2-1.5B-Instruct_16.json +28 -0
- Qwen/Qwen2-1.5B_36.json +28 -0
- SeacomSrl/SeaPhi3-medium_4.json +28 -0
- SeacomSrl/SeaQwen2-1.5B_19.json +28 -0
- anakin87/Llama-3-8b-ita-slerp_6.json +28 -0
- anakin87/Llama-3-8b-ita-ties-pro_9.json +28 -0
- e-palmisano/Qwen2-1.5B-ITA-Instruct_18.json +28 -0
- galatolo/cerbero-7B_20.json +28 -0
- giux78/llama3-8B-usenet-merged_15.json +28 -0
- giux78/zefiro-7b-dpo-qlora-ITA-v0.7_26.json +28 -0
- google/gemma-2-27b-it_1.json +28 -0
- google/gemma-2-9b-it_2.json +28 -0
- iGeniusAI/Italia-9B-Instruct-v0.1_28.json +28 -0
- meta-llama/Meta-Llama-3-8B-Instruct_11.json +28 -0
- meta-llama/Meta-Llama-3-8B-it_14.json +28 -0
- meta-llama/Meta-Llama-3.1-8B-Instruct_8.json +28 -0
- microsoft/Phi-3-medium-4k-instruct_3.json +28 -0
- mii-llm/.ipynb_checkpoints/zenith-mini(beta)_35-checkpoint.json +28 -0
- mii-llm/maestrale-7B-v0.1_25.json +28 -0
- mii-llm/maestrale-chat-v0.4-beta_7.json +28 -0
- mii-llm/minerva-chat-v0.1-alpha-sft_33.json +28 -0
- mii-llm/zenith-mini(beta)_35.json +28 -0
- mistralai/Mistral-7B-v0.1_23.json +28 -0
- mistralai/Mistral-7B-v0.3_24.json +28 -0
- occiglot/occiglot-7b-it-en-instruct_21.json +28 -0
- raicrits/Hermes7b_ITA_30.json +28 -0
- sapienzanlp/Minerva-350M-base-v1.0_34.json +28 -0
- sapienzanlp/Minerva-3B-base-v1.0_32.json +28 -0
- seeweb/SeewebLLM-it_29.json +28 -0
- swap-uniba/LLaMAntino-2-7b-hf-ITA_31.json +28 -0
- swap-uniba/LLaMAntino-2-chat-13b-hf-UltraChat-ITA_27.json +28 -0
- swap-uniba/LLaMAntino-3-ANITA-8B-Inst-DPO-ITA_10.json +28 -0
DeepMount00/Llama-3-8b-Ita_5.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "DeepMount00/Llama-3-8b-Ita",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.586
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.446
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6896
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4942
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5514
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.6147
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
DeepMount00/Llama-3-COT-ITA_13.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "DeepMount00/Llama-3-COT-ITA",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5707
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4266
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6624
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4879
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5442
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5893
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
DeepMount00/Qwen2-1.5B-Ita_17.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "DeepMount00/Qwen2-1.5B-Ita",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5009
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.376
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7184
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4053
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4932
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4865
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
FairMind/Llama-3-8B-4bit-UltraChat-Ita_22.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "FairMind/Llama-3-8B-4bit-UltraChat-Ita",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.483
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3772
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.5812
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.424
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.44
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.516
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
MoxoffSpA/Volare_12.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "MoxoffSpA/Volare",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5583
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4183
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7256
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.5096
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5097
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5869
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
Qwen/Qwen2-1.5B-Instruct_16.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "Qwen/Qwen2-1.5B-Instruct",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5156
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4056
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7334
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4306
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4995
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5019
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
Qwen/Qwen2-1.5B_36.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "Qwen/Qwen2-1.5B",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4495
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3725
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7231
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.3844
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4184
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4492
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
SeacomSrl/SeaPhi3-medium_4.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "SeacomSrl/SeaPhi3-medium",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.6512
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.5007
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7363
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.6128
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5955
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.6883
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
SeacomSrl/SeaQwen2-1.5B_19.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "SeacomSrl/SeaQwen2-1.5B",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4683
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3783
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7254
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4084
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4354
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4635
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
anakin87/Llama-3-8b-ita-slerp_6.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "anakin87/Llama-3-8b-ita-slerp",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5851
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4468
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6823
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.492
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5532
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.6124
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
anakin87/Llama-3-8b-ita-ties-pro_9.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "anakin87/Llama-3-8b-ita-ties-pro",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5795
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4403
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6759
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4876
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5489
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.6059
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
e-palmisano/Qwen2-1.5B-ITA-Instruct_18.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "e-palmisano/Qwen2-1.5B-ITA-Instruct",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4889
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3938
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7078
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4249
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4576
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4893
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
galatolo/cerbero-7B_20.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "galatolo/cerbero-7B",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4945
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3916
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.5694
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4316
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4386
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5163
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
giux78/llama3-8B-usenet-merged_15.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "giux78/llama3-8B-usenet-merged",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5395
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3924
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6152
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4657
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5108
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5643
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
giux78/zefiro-7b-dpo-qlora-ITA-v0.7_26.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "giux78/zefiro-7b-dpo-qlora-ITA-v0.7",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4607
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3519
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.4752
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.3951
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4166
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4663
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
google/gemma-2-27b-it_1.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "google/gemma-2-27b-it",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.7182
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.5699
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.8683
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.6768
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.6623
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.763
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
google/gemma-2-9b-it_2.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "google/gemma-2-9b-it",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.6875
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.5505
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.8428
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.6564
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.6378
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.7272
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
iGeniusAI/Italia-9B-Instruct-v0.1_28.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "iGeniusAI/Italia-9B-Instruct-v0.1",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4499
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.355
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.3931
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.3869
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4342
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4545
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
meta-llama/Meta-Llama-3-8B-Instruct_11.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "meta-llama/Meta-Llama-3-8B-Instruct",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5709
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4358
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6767
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4869
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5409
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.599
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
meta-llama/Meta-Llama-3-8B-it_14.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "meta-llama/Meta-Llama-3-8B-it",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5412
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4005
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6132
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4716
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5101
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5721
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
meta-llama/Meta-Llama-3.1-8B-Instruct_8.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "meta-llama/Meta-Llama-3.1-8B-Instruct",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5987
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4391
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6747
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.5134
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5583
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.6315
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
microsoft/Phi-3-medium-4k-instruct_3.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "microsoft/Phi-3-medium-4k-instruct",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.6738
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.5326
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7584
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.6417
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.6153
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.7125
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
mii-llm/.ipynb_checkpoints/zenith-mini(beta)_35-checkpoint.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "mii-llm/zenith-mini(beta)",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5192
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4016
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7306
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4362
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.504
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5172
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
mii-llm/maestrale-7B-v0.1_25.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "mii-llm/maestrale-7B-v0.1",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4749
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.353
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.4515
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4053
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4326
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4933
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
mii-llm/maestrale-chat-v0.4-beta_7.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "mii-llm/maestrale-chat-v0.4-beta",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5979
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4284
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6226
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4938
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.577
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.636
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
mii-llm/minerva-chat-v0.1-alpha-sft_33.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "mii-llm/minerva-chat-v0.1-alpha-sft",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.2785
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.2775
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.2831
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.264
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.2751
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.2708
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
mii-llm/zenith-mini(beta)_35.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "mii-llm/zenith-mini(beta)",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5192
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4016
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.7306
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4362
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.504
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5172
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
mistralai/Mistral-7B-v0.1_23.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "mistralai/Mistral-7B-v0.1",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4689
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3623
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.5065
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4099
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4218
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4792
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
mistralai/Mistral-7B-v0.3_24.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "mistralai/Mistral-7B-v0.3",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4626
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3561
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.5171
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.3958
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4213
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4709
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
occiglot/occiglot-7b-it-en-instruct_21.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "occiglot/occiglot-7b-it-en-instruct",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5202
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3786
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.4608
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4295
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4931
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.5446
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
raicrits/Hermes7b_ITA_30.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "raicrits/Hermes7b_ITA",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.3497
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3153
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.4199
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.3125
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.3269
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.3636
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
sapienzanlp/Minerva-350M-base-v1.0_34.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "sapienzanlp/Minerva-350M-base-v1.0",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.2773
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.2738
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.2777
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.2554
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.2769
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.2734
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
sapienzanlp/Minerva-3B-base-v1.0_32.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "sapienzanlp/Minerva-3B-base-v1.0",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.281
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.2747
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.2801
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.2659
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.2778
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.2781
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
seeweb/SeewebLLM-it_29.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "seeweb/SeewebLLM-it",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.3907
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.32
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.4507
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.3322
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.3529
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.3952
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
swap-uniba/LLaMAntino-2-7b-hf-ITA_31.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "swap-uniba/LLaMAntino-2-7b-hf-ITA",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.316
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.2999
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.3137
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.2687
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.3211
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.2962
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
swap-uniba/LLaMAntino-2-chat-13b-hf-UltraChat-ITA_27.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "swap-uniba/LLaMAntino-2-chat-13b-hf-UltraChat-ITA",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.4505
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.3509
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.4813
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.3802
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.4285
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.4545
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|
swap-uniba/LLaMAntino-3-ANITA-8B-Inst-DPO-ITA_10.json
ADDED
@@ -0,0 +1,28 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"config": {
|
3 |
+
"model_dtype": "bfloat16",
|
4 |
+
"model_name": "swap-uniba/LLaMAntino-3-ANITA-8B-Inst-DPO-ITA",
|
5 |
+
"model_sha": "main"
|
6 |
+
},
|
7 |
+
"results": {
|
8 |
+
"pinocchio_it_generale": {
|
9 |
+
"acc": 0.5771
|
10 |
+
},
|
11 |
+
"pinocchio_it_logica": {
|
12 |
+
"acc": 0.4397
|
13 |
+
},
|
14 |
+
"pinocchio_it_lingua_straniera": {
|
15 |
+
"acc": 0.6718
|
16 |
+
},
|
17 |
+
"pinocchio_it_matematica_e_scienze": {
|
18 |
+
"acc": 0.4836
|
19 |
+
},
|
20 |
+
"pinocchio_it_diritto": {
|
21 |
+
"acc": 0.5465
|
22 |
+
},
|
23 |
+
"pinocchio_it_cultura": {
|
24 |
+
"acc": 0.604
|
25 |
+
}
|
26 |
+
},
|
27 |
+
"versions": null
|
28 |
+
}
|