Update tokenizer.json
Browse files- tokenizer.json +6 -2
tokenizer.json
CHANGED
@@ -2586,7 +2586,9 @@
|
|
2586 |
"wer": 2541,
|
2587 |
"Ġnami": 2542,
|
2588 |
"Ġubra": 2543,
|
2589 |
-
"kacji": 2544
|
|
|
|
|
2590 |
},
|
2591 |
"merges": [
|
2592 |
"i e",
|
@@ -5003,7 +5005,9 @@
|
|
5003 |
"w er",
|
5004 |
"Ġna mi",
|
5005 |
"Ġu bra",
|
5006 |
-
"ka cji"
|
|
|
|
|
5007 |
]
|
5008 |
}
|
5009 |
}
|
|
|
2586 |
"wer": 2541,
|
2587 |
"Ġnami": 2542,
|
2588 |
"Ġubra": 2543,
|
2589 |
+
"kacji": 2544,
|
2590 |
+
"jÄħÅĤ": 2545,
|
2591 |
+
"Ġkur": 2646
|
2592 |
},
|
2593 |
"merges": [
|
2594 |
"i e",
|
|
|
5005 |
"w er",
|
5006 |
"Ġna mi",
|
5007 |
"Ġu bra",
|
5008 |
+
"ka cji",
|
5009 |
+
"jÄħ ÅĤ",
|
5010 |
+
"Ġku r"
|
5011 |
]
|
5012 |
}
|
5013 |
}
|