diff --git "a/niv_Cyrl/mala_000001_remove.jsonl" "b/niv_Cyrl/mala_000001_remove.jsonl" new file mode 100644--- /dev/null +++ "b/niv_Cyrl/mala_000001_remove.jsonl" @@ -0,0 +1,109 @@ +{"url":"http:\/\/russia.rin.ru\/guides\/4715.html","collection":"languages_of_russia","source":"russia.rin.ru","original_code":"niv","text":"дТХЗБС ФПЮЛБ ЪТЕОЙС РПМБЗБЕФ, ЮФП ДТЕЧОЕКЫЕЕ ОБУЕМЕОЙЕ бХТБ Й уБИБМЙОБ (БТИЕПМПЗЙС НЕЪП - ОЕПМЙФЙЮЕУЛПЗП ЧТЕНЕОЙ) УПВУФЧЕООП ОЙЧИУЛЙН ОЕ СЧМСЕФУС, Б РТЕДУФБЧМСЕФ УПВПК ОЕДЙЖЖЕТЕОГЙТПЧБООЩК Ч ЬФОЙЮЕУЛПН ПФОПЫЕОЙЙ РМБУФ ЛХМШФХТЩ, ЛПФПТПК СЧМСЕФУС УХВУФТБФОЩН РП ПФОПЫЕОЙА ЛП ЧУЕНХ УПЧТЕНЕООПНХ ОБУЕМЕОЙА бНХТБ. уМЕДЩ ЬФПЗП УХВУФТБФБ ЖЙЛУЙТХАФУС Ч БОФТПРПМПЗЙЙ, СЪЩЛЕ,","num_words":44,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.148,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/russia.rin.ru\/guides\/4715.html","collection":"languages_of_russia","source":"russia.rin.ru","original_code":"niv","text":"пУОПЧОЩЕ ЬМЕНЕОФЩ НБФЕТЙБМШОПК ЛХМШФХТЩ ОЙЧИПЧ УППФЧЕФУФЧХАФ ПВЭЕБНХТУЛЙН: УЕЪПООЩЕ (МЕФОЙЕ ЧТЕНЕООЩЕ, ЪЙНОЙЕ РПУФПСООЩЕ) РПУЕМЕОЙС, ЦЙМЙЭБ ФЙРБ ЪЕНМСОЛЙ, УПУХЭЕУФЧХАФ У ТБЪОППВТБЪОЩНЙ МЕФОЙНЙ ЧТЕНЕООЩНЙ РПУФТПКЛБНЙ. рПД ЧМЙСОЙЕН ТХУУЛЙИ РПМХЮЙМЙ ТБУРТПУФТБОЕОЙЕ УТХВОЩЕ РПУФТПКЛЙ.","num_words":29,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.128,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/russia.rin.ru\/guides\/4715.html","collection":"languages_of_russia","source":"russia.rin.ru","original_code":"niv","text":"РП ПФОПЫЕОЙА Л СЪЩЛБН ДТХЗЙИ ОБТПДПЧ бНХТБ. пО ПФОПУЙФУС Л РБМЕПБЪЙБФУЛЙН СЪЩЛБН Й ПВОБТХЦЙЧБЕФ ВМЙЪПУФШ Л СЪЩЛБН ТСДБ ОБТПДПЧ фЙИППЛЕБОУЛПЗП ВБУУЕКОБ, аЗП-чПУФПЮОПК бЪЙЙ Й","num_words":24,"character_repetition_ratio":0.012,"word_repetition_ratio":0.0,"special_characters_ratio":0.151,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/turkey-info.ru\/forum\/haydi-konusalim\/runete-poyavilas-zapis-dvoynogo-ubiystva-nacionalnoy-pochve-t631703-80.html","collection":"languages_of_russia","source":"turkey-info.ru","original_code":"niv","text":"* Черкесы (адыгэ с языком черкесским, бесленеевцы с языком кабардино-черкесским, бесленеи): 60 517 чел.","num_words":11,"character_repetition_ratio":0.191,"word_repetition_ratio":0.0,"special_characters_ratio":0.252,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.916,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/turkey-info.ru\/forum\/haydi-konusalim\/runete-poyavilas-zapis-dvoynogo-ubiystva-nacionalnoy-pochve-t631703-80.html","collection":"languages_of_russia","source":"turkey-info.ru","original_code":"niv","text":"* Эвены (илкан, ламут, ламут-наматкан, мэнэ, овен, овон, ороч с языком эвенским, орочёл, орочель, орочён с языком эвенским, тунгусы с языком эвенским, тургэхал, ывын, эбэн, эвон, эвын, эвэн, эвэс): 19 071 чел.","num_words":29,"character_repetition_ratio":0.185,"word_repetition_ratio":0.0,"special_characters_ratio":0.282,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.275,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/turkey-info.ru\/forum\/haydi-konusalim\/runete-poyavilas-zapis-dvoynogo-ubiystva-nacionalnoy-pochve-t631703-80.html","collection":"languages_of_russia","source":"turkey-info.ru","original_code":"niv","text":"* Литовцы (аукштайты, жемайты, летувник(-и), летувяй, литвины с языком литовским, литвяки\/литваки с языком литовским): 45 569 чел.","num_words":14,"character_repetition_ratio":0.165,"word_repetition_ratio":0.0,"special_characters_ratio":0.269,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.842,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/turkey-info.ru\/forum\/haydi-konusalim\/runete-poyavilas-zapis-dvoynogo-ubiystva-nacionalnoy-pochve-t631703-80.html","collection":"languages_of_russia","source":"turkey-info.ru","original_code":"niv","text":"* Негидальцы (амгун бэйенин, на бэйенин, негды, нясихагил, элькан дэйнин): 567 чел.","num_words":10,"character_repetition_ratio":0.054,"word_repetition_ratio":0.0,"special_characters_ratio":0.277,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.356,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/turkey-info.ru\/forum\/haydi-konusalim\/runete-poyavilas-zapis-dvoynogo-ubiystva-nacionalnoy-pochve-t631703-80.html","collection":"languages_of_russia","source":"turkey-info.ru","original_code":"niv","text":"* Алтайцы (алтай-кижи, кыпчак с языком алтайским, майминцы, найман с языком алтайским): 67 239 чел.","num_words":12,"character_repetition_ratio":0.178,"word_repetition_ratio":0.0,"special_characters_ratio":0.283,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.382,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/turkey-info.ru\/forum\/haydi-konusalim\/runete-poyavilas-zapis-dvoynogo-ubiystva-nacionalnoy-pochve-t631703-80.html","collection":"languages_of_russia","source":"turkey-info.ru","original_code":"niv","text":"* Турки (османы, турки-батумцы, турки-османы, турки-сухумцы, тюрк с языком турецким): 92 415 чел.","num_words":10,"character_repetition_ratio":0.114,"word_repetition_ratio":0.0,"special_characters_ratio":0.299,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.529,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/turkey-info.ru\/forum\/haydi-konusalim\/runete-poyavilas-zapis-dvoynogo-ubiystva-nacionalnoy-pochve-t631703-80.html","collection":"languages_of_russia","source":"turkey-info.ru","original_code":"niv","text":"* Армяне (амшенцы, гай, донские армяне, крымские армяне, франк, хай, черкесогаи): 1 130 491 чел.","num_words":11,"character_repetition_ratio":0.092,"word_repetition_ratio":0.0,"special_characters_ratio":0.333,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.597,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.budgetrf.ru\/Publications\/Magazines\/VestnikSF\/2007\/VSF_NEW200802201453\/VSF_NEW200802201453_001.htm","collection":"languages_of_russia","source":"www.budgetrf.ru","original_code":"niv","text":"Башкиры (башкорт, башкурт, казаки с языком башкирским, тептяри-башкиры, тептяри с языком башкирским)","num_words":12,"character_repetition_ratio":0.194,"word_repetition_ratio":0.0,"special_characters_ratio":0.196,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.641,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.budgetrf.ru\/Publications\/Magazines\/VestnikSF\/2007\/VSF_NEW200802201453\/VSF_NEW200802201453_001.htm","collection":"languages_of_russia","source":"www.budgetrf.ru","original_code":"niv","text":"Эвены (илкан, ламут, ламут-наматкан, мэнэ, овен, овон, ороч с языком эвенским, орочёл, орочель, орочён с языком эвенским, тунгусы с языком эвенским, тургэхал, ывын, эбэн, эвон, эвын, эвэн, эвэс)","num_words":28,"character_repetition_ratio":0.176,"word_repetition_ratio":0.0,"special_characters_ratio":0.254,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.312,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.budgetrf.ru\/Publications\/Magazines\/VestnikSF\/2007\/VSF_NEW200802201453\/VSF_NEW200802201453_001.htm","collection":"languages_of_russia","source":"www.budgetrf.ru","original_code":"niv","text":"Адыгейцы (абадзехи, адыгэ с языком адыгейским, бесленеевцы с языком адыгейским, бжедуги, мамхеги, махмеги, махмеговцы)","num_words":14,"character_repetition_ratio":0.162,"word_repetition_ratio":0.0,"special_characters_ratio":0.192,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.547,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.budgetrf.ru\/Publications\/Magazines\/VestnikSF\/2007\/VSF_NEW200802201453\/VSF_NEW200802201453_001.htm","collection":"languages_of_russia","source":"www.budgetrf.ru","original_code":"niv","text":"Литовцы (аукштайты, жемайты, летувник, летувяй, литвины с языком литовским, литвяки с языком литовским)","num_words":13,"character_repetition_ratio":0.167,"word_repetition_ratio":0.0,"special_characters_ratio":0.2,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.868,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.budgetrf.ru\/Publications\/Magazines\/VestnikSF\/2007\/VSF_NEW200802201453\/VSF_NEW200802201453_001.htm","collection":"languages_of_russia","source":"www.budgetrf.ru","original_code":"niv","text":"Черкесы (адыгэ с языком черкесским, бесленеевцы с языком кабардино-черкесским, бесленеи)","num_words":10,"character_repetition_ratio":0.198,"word_repetition_ratio":0.0,"special_characters_ratio":0.178,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.82,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/lay-up.narod.ru\/","collection":"languages_of_russia","source":"lay-up.narod.ru","original_code":"niv","text":"абадзехи, адыгэ с языком адыгейским, бесленеевцы с языком адыгейским, бжедуги, мамхеги, махмеги, махмеговцы","num_words":13,"character_repetition_ratio":0.184,"word_repetition_ratio":0.0,"special_characters_ratio":0.168,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.311,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/lay-up.narod.ru\/","collection":"languages_of_russia","source":"lay-up.narod.ru","original_code":"niv","text":"жемайты, летувник, летувяй, литвины с языком литовским, литвяки с языком литовским","num_words":11,"character_repetition_ratio":0.192,"word_repetition_ratio":0.0,"special_characters_ratio":0.171,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.903,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/lay-up.narod.ru\/","collection":"languages_of_russia","source":"lay-up.narod.ru","original_code":"niv","text":"илкан, ламут, ламут-наматкан, мэнэ, овен, овон, ороч с языком эвенским, орочёл, орочель, орочён с языком эвенским, тунгусы с языком эвенским, тургэхал, ывын, эбэн, эвон, эвын, эвэн, эвэс","num_words":27,"character_repetition_ratio":0.198,"word_repetition_ratio":0.0,"special_characters_ratio":0.237,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.36,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/lay-up.narod.ru\/","collection":"languages_of_russia","source":"lay-up.narod.ru","original_code":"niv","text":"башкорт, башкурт, башгирд, казаки с языком башкирским, тептяри-башкиры, тептяри с языком башкирским, мишари-башкиры","num_words":13,"character_repetition_ratio":0.17,"word_repetition_ratio":0.0,"special_characters_ratio":0.174,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.558,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.testsoch.com\/yukagiro-chuvanskaya-etnoyazikovaya-grupa\/","collection":"languages_of_russia","source":"www.testsoch.com","original_code":"niv","text":"Деякі фахівці вважають, що предки нівхів, північно-східних палеоазіатів, ескімосів і індіанців Америки - ланки одного етнічного ланцюга, що охоплювала в давній давнині північно-західні береги Тихого океану. У нівхів існували тісні етнокультурние контакти з тунгусо- маньчжурськими народами, айнами і японцями","num_words":38,"character_repetition_ratio":0.007,"word_repetition_ratio":0.0,"special_characters_ratio":0.156,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"габонцы; гавайцы; гагаузы; гаитяне; гайна; гайнинцы; галга; галгаи; галисийцы; гамбийцы; гантляло; ганцы; гваделупцы; гванал; гватемальцы; гвинейцы; германошвейцарцы; герцеговинцы; гехинцы; гибдиди; гиляки; гинухцы; годоберинцы; голендры; голландцы; гольды; гомельчане; гондурасцы; горные марийцы; горские; горские армяне; горские евреи; горские таты; горюны; горяне; гражданин земли; гражданин мира; греки; греки-ромеи; греки-урумы; греки-эллины; греко-киприоты; грекос; грузинские евреи; грузины; грузины-аджарцы; губденцы; губои; гудовляне; гуды; гунзал; гунзибцы; гураны (с любым языком, кроме бурятского); гураны (с языком бурятским); гурбат; гурийцы; гуцулы; гъинухъес; гьенози;","num_words":74,"character_repetition_ratio":0.037,"word_repetition_ratio":0.0,"special_characters_ratio":0.208,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.923,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"уак; убыхи; угандийцы; угбуг; угбуган; угбуганти; уди; удины; удморт; удмурты; удмурты слободские; удораса; удорцы; удэ (с любым языком, кроме китайского и русского); удэ (с языком китайским или русским); удэгейцы; удэхе; удэхейцы; узбеки; уйгуры; уйльта; укморт; украинцы; ульта; ульча (с любым языком, кроме уйльта); ульча (с языком уйльта); ульчи; уназигмит; унан'ах; унанган; уральские марийцы; урахинцы; урбуган; урду; урмей; урморт; уртморт; уругвайцы; урум; урухцы; усть-цилемы; ути; уцзи; уэльсцы; фанг; фараоны; фарс; фиджийцы; филиппинцы; финны; финны-ингерманландцы; фламандцы; фон; франк; франкошвейцарцы; французы; фризы; фульбе; хаазуут; хаас; хааш; хазарейцы; хай; хайдаг; хайдаклан; хайдакъан; хайдакъанти; хайнали; хакасы; халдеи; халха; халха-монголы; халхасцы; хальмг; хамниганы; хамшенци; хамшены; хамшецы; хангайцы; хангук сарам; хандеяры; хандэ; ханти; ханты; хантых; хантэ; хань; ханьжэнь; ханьцы; харари; хартумцы; хаса; хауса; хвайнинцы; хванал; хваршал; хваршинцы; хваршины; хевсуры; хемшилы; хемшильцы; хемшинли; хемшины; хинатбы; хинди; хиндиязычные индийцы; хиндустанцы; хирти; хновцы; хойбал; хойты; хомшетси; хомшеци; хонгодоры; хопа-хемшины; хорваты; хоринцы; хохлы; хошеуты; хошуты; хрвати; хуани; хугни; хуй; хуйцзу; хуламцы; хули; хунзалис; хунзалы; хунуни; хуту; хуфцы; хызыл; цахурцы; цахуры; цезы; цейлонцы; центральноафриканцы; цонголы; цумадинцы; цунтинцы; цыгане; цыгане армянские; цыгане среднеазиатские; чаат; чабат; чаваш; чавчу; чавчувены; чав-чыв; чагат (с любым языком, кроме теленгитского и тубаларского); чагат (с языком теленгитским); чагат (с языком тубаларским); чадцы; чалдоны (с любым языком, кроме белорусского); чалдоны (с языком белорусским); чалканду; чалканцы; чамалали; чамалалы; чамали; чамалинцы; чаны; чапты; чаты; чаучу; чегемцы; чедвер; чедыбер; челдоны; челей; челканцы; человек; человек земли; человек мира; чепецкие татары; черемисы; черкесармяне; черкесогаи; черкесские армяне; черкесы; черногорцы; чехи; чеченцы; чеченцы-акинцы; чеченцы-аккинцы; чжунго жэнь; чибча; чилийцы; чимари; чор; чорос; чосон сарам; чуванцы; чуваши; чудь; чуйцы; чукчи; чулымские татары; чулымские тюрки; чулымцы; чумыль-куп; чунари; чуфут; чухари; чухонцы; шабат; шакшылык; шалганныг; шалганы; шалканду; шамхорцы; шапсуги; шапсыг; швабы; шведы; швейцарцы; шегреи; шекты; шелькуп; шешкум; ширвони; шкарауа; шкипетары; шкиптар; шокша; шор (с любым языком, кроме алтайского и кумандинского); шор (с языком алтайским); шор (с языком кумандинским); шор-кижи; шорцы; шотландцы; шриланкийцы; шугнанцы; шугни; шупамен; ывын; эбраэли; эбэн; эве; эвен; эвенк; эвенки; эвены; эвон; эвримейсет; эвын; эвэн; эвэс; эзды; эквадорцы; экваторианцы; экинцы; элеты; элканбэйэ; эллинос; э��лины; элутыл'у; элькан дэйнин; энцы; эньчо; энэтэ; эрзя; эритрейцы; эрштхой; эскимосы; эстеррайхер; эстонцы; эстонцы православные; эстонцы-сету; эсты; этели; эуштинцы; эфиопы; ээсти; ээстилане; юген; юги; югославы; южноафриканцы; юкагиры; юлюп; юпагыт; юпигыт; юпит; юрматы; юрматынцы; юртовские татары; ягнобцы; ягуны; язгулемцы; язьвинцы; якуты (саха); якутяне; ямайцы; ямские; японцы; ясколбинские татары; яушта; яхолшу; яхуди; яхуди бухорои; яхудои махали; яхулви.","num_words":379,"character_repetition_ratio":0.054,"word_repetition_ratio":0.0,"special_characters_ratio":0.228,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.715,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"ваду; вадьякко; вадьялайн; важане; ваи; вайнахи; валлийцы; валлоны; ваханцы; вахи; ведороссы; ведо-россы; ведруссы; великороссы; венгры; венесуэльцы; вепсы; вепся; верховинцы; ветлужские марийцы; вирьял; витебские; вогулы; водь; вожане; войкыпал'о; волго-камские болгары; волго-камские булгары; волжеские болгары; волжские болгары; волжские булгары; волжско-камские булгары; волофы; волохь; восточные марийцы; вотяки; воямпольцы; вудмурт; вулугуни; вутла мари; вьет ньгой; вьетнамцы;","num_words":52,"character_repetition_ratio":0.135,"word_repetition_ratio":0.0,"special_characters_ratio":0.203,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.906,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"кабардей; кабардинцы; кабган; кабилы; кабоверденцы; кабульцы; кавказцы; казаки (с любым языком, кроме калмыцкого и украинского); казаки (с языком калмыцким); казаки (с языком украинским); казаки русские; казанлы; казанские татары; казах кыпчак; казахи; казахи кош-агачские; казахи крещеные; казахи степские; казахи туратинские; кайтаги; кайтагцы; кайтоги; калар; калгаи; калмаки (с любым языком, кроме казахского); калмаки (с языком казахским); калмыки; калпак; калхетинцы; камасинцы; камбоджийцы; каменцы; каменщики; камерунцы; камляр; кампучийцы; камские болгары; камские булгары; камчадалы (с любым языком, кроме ительменского); камчадалы (с языком ительменским); канадцы; канинские поморы; кантага ях; капучины; кара тювен; карабахцы; карабулакцы; карагасы; карагасы томские; карагаши; карагинцы; караимы; караинские татары; карай; кара-кайтаги; каракалпаки; караногайцы; каран'ыныльо; карапапахи; каратаи; каратинцы; карачаевцы; карачай; карачайлы; карачайлыла; карга; карелы; каринские татары; каролпак; карпатороссы; картвели; карымы; карьяла; карьялайзет; карьялани; карьяляйн; касакийцы; касимовские татары; кастильцы; катаган; катаганцы; каталонцы; катарцы; катрухцы; кахетинцы; кацапы; качинцы; кашгарцы; кашмирцы; кванадинцы; кванадлетцы; кваннал; кёбёк (с любым языком, кроме теленгитского); кёбёк (с языком теленгитским); кёёжё; кемгуи; кенийцы; кергил (с любым языком, кроме теленгитского); кергил (с языком теленгитским); керей; кереки; кержаки; керсагал; ке��тен; кёрюкейлер; кестымлар; кето; кеты; кикуйю; кимонко; киншасцы; кинь; киприоты; кипчак (с любым языком, кроме алтайского, башкирского, казахского и ногайского); кипчак (с языком алтайским); кипчак (с языком башкирским); кипчак (с языком казахским); кипчак (с языком ногайским); кипшак; киргизы; кирди; киржаки; кистинцы; кистины; кисты; китайцы; киче; кожла марий; кожо; койбалы; койимские; колбиты; колумбийцы; колчач; колымские; колымчане; комдош (с любым языком, кроме тубаларского); комдош (с языком тубаларским); коми (с любым языком, кроме коми-пермяцкого); коми (с языком коми-пермяцким); коми войтыр; коми йоз; коми морт (с любым языком, кроме коми-пермяцкого); коми морт (с языком коми-пермяцким); коми отир; коми-зыряне; коми-зюздинцы; коми-ижемцы; коми-обдор; коми-пермяки; коми-язьвинцы; комнош; коморцы; конголезцы; конграт; кооболы; коргунак; корё сарам; корейцы; корсиканцы; коряки; космополиты; косовцы; костариканцы; котдивуарцы; кош-агачские казахи; красноверцы; красноверы; крестьяне затундренные; крещенцы; крещёны; крещеные; крещеные казахи; крещеные татары; кроаты; крымские армяне; крымские евреи; крымские ногаи; крымские татары; крымцы; крымчаки; кряшены; кряшены-русские; кряшены-татары; куалолумпурцы; куаннал; кубанды; кубанские ногайцы; кубачинцы; кубинцы; кувандыг; кувейтцы; кудайраг; кударинские (с любым языком, кроме бурятского); кударинские (с языком бурятским); кударцы; кулугуры; кумандинцы; куманды; куманды-кижи; кумские ногайцы; кумук; кумыки; кунграт; кундровцы; курд; курдакско-саргатские татары; курдохемшилы; курды; курды батумские; курды-езиды; курмандж; курманч; курык марий; курымкане; кутаисцы; куу-кижи; кхмеры; кърым татарлар; кызыл; кызыл кёс; кызыльцы; кыпсак; кыпчак (с любым языком, кроме алтайского, башкирского, казахского, ногайского и теленгитского); кыпчак (с языком алтайским); кыпчак (с языком башкирским); кыпчак (с языком казахским); кыпчак (с языком ногайским); кыпчак (с языком теленгитским); кыргыз; кьякала; кюзен (с любым языком, кроме кумандинского, тубаларского и челканского); кюзен (с языком кумандинским); кюзен (с языком тубаларским); кюзен (с языком челканским); кюрегу; кюринцы; кялундзига;","num_words":416,"character_repetition_ratio":0.116,"word_repetition_ratio":0.0,"special_characters_ratio":0.208,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.654,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"тyбере куманды; тÿбере куманды; табасаран; табасаранцы; табасараны; табын; табыска; тавгийцы; тавоктарош; тадар (с любым языком, кроме телеутского, тубаларского, хакасского и шорского); тадар (с языком телеутским); тадар (с языком тубаларским); тадар (с языком хакасским); тадар (с языком шорским); тадар-кижи (с любым языком, кроме телеутского, хакасского и шорского); тадар-кижи (с языком телеутским); тадар-кижи (с языком хакасским); тадар-кижи (с языком шорским); тадарлар (с лю��ым языком, кроме телеутского и тубаларского); тадарлар (с языком телеутским); тадарлар (с языком тубаларским); таджики; та-дзы; тазы; таи; таиландцы; тайванцы; тайцы; талабайцы; талыши; талышон; тама; тамилнадцы; тамилы; тамильцы; тангус; тангуты; танды; танзанийцы; тапанта; таранчи; тарлик; таррьй саммь; тарские татары; тастар (с любым языком, кроме кумандинского); тастар (с языком кумандинским); тат (с любым языком, кроме армянского и крымскотатарского); тат (с языком армянским); тат (с языком крымскотатарским); татадар-кижилери; татар; татарлар; татаро-башкиры (с любым языком, кроме башкирского); татаро-башкиры (с языком башкирским); татаро-булгары; татары; татары алабугатские; татары астраханские; татары башкирские; татары заболотные; татары казанские; татары караинские; татары каринские; татары касимовские; татары крещеные; татары крымские; татары курдакско-саргатские; татары нократские; татары нукратские; татары нухратские; татары сибирские; татары тарские; татары тевризские; татары тобольские; татары тюменско-тюринские; татары чепецкие; татары чулымские; татары юртовские; татары ясколбинские; тати; татребы; татские евреи; таты (с любым языком, кроме армянского); таты (с языком армянским); таты армянские; таты горские; таты дагестанские; таты-азербайджанцы; таты-армяне; таты-иудаисты; таты-мусульмане; таулу; тёбере куманды; тевичи; тевризские татары; тёёлёс (с любым языком, кроме теленгитского); тёёлёс (с языком теленгитским); теленгиты; теленет; теленеттер; теленит; телёс; телесы; телеуты; темиргоевцы; тептер; тептери; тептяри (с любым языком, кроме башкирского); тептяри (с языком башкирским); тептяри-татары; тёрбёт; терекеме; терюхане; тибетцы; тивер; тигре; тимбуктийцы; тиндалы; тиндии; тиндинцы; типтяр; тлибишинцы; тлиссинцы; тляратинцы; тоболик; тобольские татары; тоголезцы; тогус (с любым языком, кроме тубаларского); тогус (с языком тубаларским); тоджик; тоджинцы; тодош (с любым языком, кроме теленгитского); тодош (с языком теленгитским); толыш; томские карагасы; тонганцы; тонгус; тонжоон; тонул; тоон (с любым языком, кроме кумандинского); тоон (с языком кумандинским); торгоуты; торгуты; торкара; тофа; тофалары; трухмены; трухмяне; туалаг; туальцы; туареги; туба; туба-кижи; тубалары; тубинцы; тува; тувинцы; тувинцы-тоджинцы; туга; тудовляне (с любым языком, кроме белорусского); тудовляне (с языком белорусским); тукитинцы; тумал; тумат; тунгус (с любым языком, кроме эвенского); тунгус (с языком эвенским); тунгусы (с любым языком, кроме эвенского); тунгусы (с языком эвенским); тунисцы; тураминцы; туратинские казахи; тургэхал; турки; турки ахалцихские; турки-ахыска; турки-батумцы; турки-месхетинцы; турки-османы; турки-сухумцы; турки-хемшилы; туркмены; турко-киприоты; туха; тхо; тыва; тыва-кижи; тьабак (с любым языком, кроме теленгитского); тьабак (с языком теленгитским); тьабыр; тьазол; тьалан (с любым языком, кроме тубаларского); тьалан (с языком тубаларским); тьарты; тьарык (с любым языком, кроме тубаларского); тьарык (с языком тубаларским); тьетисары; тьетитас; тьеткыр; тьус; тьытас; тюменско-тюринские татары; тюрк (с любым языком, кроме азербайджанского, турецкого, туркменского и узбекского); тюрк (с языком азербайджанским); тюрк (с языком турецким); тюрк (с языком туркменским); тюрк (с языком узбекским); тюрка; тюрки; тюрки чулымские; тюс; тютнярцы;","num_words":447,"character_repetition_ratio":0.164,"word_repetition_ratio":0.0,"special_characters_ratio":0.211,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.72,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"абадзехи; абаза; абазины; абжуйцы; абиссинцы; абхазы; авамские; аварал; аварцы; австралийцы; австрийцы; австровенгры; агинцы; агул шуй; агулар; агулы; агульцы; адай; аджарели; аджарцы; адыге (с любым языком, кроме кабардинского, черкесского и шапсугского); адыге (с языком кабардинским); адыге (с языком черкесским); адыге (с языком шапсугским); адыгейцы; адыги (с любым языком, кроме кабардинского, черкесского и шапсугского); адыги (с языком кабардинским); адыги (с языком черкесским); адыги (с языком шапсугским); адыгэ (с любым языком, кроме кабардинского, черкесского и шапсугского); адыгэ (с языком кабардинским); адыгэ (с языком черкесским); адыгэ (с языком шапсугским); азербайджанлы; азербайджанлылар; азербайджанцы; азери; аймара; айну; айны; айрумы; айсоры; ак паш; акинцы; аккий; аккинцы; аккой; аккхий; аксак; акьилько; алабугатские татары; алаи; аланы; аларцы; албанцы; алеуты; алжирцы; аллеманцы; алмат (с любым языком, кроме теленгитского); алмат (с языком теленгитским); алтай (с любым языком, кроме кумандинского, теленгитского, тубаларского, и челканского); алтай (с языком кумандинским); алтай (с языком теленгитским); алтай (с языком тубаларским); алтай (с языком челканским); алтай-кижи; алтай-куманды; алтай-теленгит; алтай-телёс; алтай-туба; алтайцы; алтайцы-кумандинцы; алтайцы-теленгиты; алтайцы-тубалары; алтайцы-чалканцы; алтайцы-челканцы; алтна куманды; алтына куманды; алуры; алутальу; алыйан; алюторцы; амацирги; амгун бэйенин; американцы; амхара; амшенские армяне; амшенцы; анат енчи; анатри; ангагинас; англичане; ангольцы; андал; андии; андийцы; анкалгакку; анкалын; анкальын; антильцы; анчихцы; апокваямыл'о; апсуа; апукинцы; ара; араби; арабы; арабы алжирцы; арабы Объединенных Арабских Эмиратов; арабы палестинцы; арабы сирийцы; арабы среднеазиатские; аравийцы; аравим; арамеи; аргентинцы; аргын; аринцы; армяне; армяне амшенские; армяне горские; армяне донские; армяне крымские; армяне черкесские; армяне-таты; армянские таты; армянские цыгане; арнауты; арчи; арчиб; арчинцы; аршиштиб; ары; асаны; асори; ассамцы; ассирийцы; ассурайя; астраханские ногайцы; астраханские татары; атали; атлилько; атурая; аукштайты; ауховцы; афганцы; африканцы; афро; афроамериканцы; афророссияне; ахалцихские турки; ахвалал; ахвахцы; ахтинцы; ахыска; ачикулакские ногайцы; ашвалъ; ашватл; ашкеназ; ашхаруа; ашхарцы;","num_words":267,"character_repetition_ratio":0.098,"word_repetition_ratio":0.0,"special_characters_ratio":0.209,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.808,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"дагестанские евреи; дагестанские таты; дагестанцы; даг-чуфут; дарбанди; дарган; дарганти; даргинцы; датчане; дауры; дахорцы; дашкесанцы; дейч; денг; дербеты; деткиль; джалганцы; джаникци; джеки; джекцы; джибутинцы; дживут бухари; джуги; джугут; джула; джунгары; джуур; джуфут; джухут; джухут иври; джухути бухори; дигор; дигорон; дигорцы; дидойцы; диула; догоны; дойч; дойчен; долган; долганы; дом; доминиканцы; донские армяне; дулган; дунгане; духоборцы; духоборы; дырники; дьюла; дэрбеты; дэрбэты большие; дэрбэты малые; дюрбеты; дянь;","num_words":63,"character_repetition_ratio":0.027,"word_repetition_ratio":0.0,"special_characters_ratio":0.22,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.77,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"евлахцы; евреи; евреи бухарские; евреи горские; евреи грузинские; евреи дагестанские; евреи крымские; евреи среднеазиатские; евреи татские; египтяне; егуди; егуны; ёгэн; езды; езиды; ёлёт; ёлюк; енисейцы; ёре-куманды; еуди; еудим; ехуди; ехудим; жагайбайлы; жаппас; жемайты; жители вселенной; жители земли; заболотные татары; заирцы; замбийцы; занзибарцы; затундренные крестьяне; згамик; земляне; земшаки; зимбабвийцы; зулусы; зыряне; зыряне-обдорцы; зюздинцы; ибдиди; ибуряги; ивориан; иври; ивуарцы; идари; идель болгары; идери; идн; иезиды; ижемцы; ижора; ижорцы; израильтяне; изури; изьватас; илийцы; илкан; илэ; имак'лъит; имеретинцы; имишлинцы; имошаг; инбаки; ингерманландцы; ингилой; ингилойцы; ингрикот; ингры; ингуши; индигирцы; индигирщики; индийцы; индийцы хиндиязычные; индобразильцы; индонезийцы; индуисты непальцы; инкери; инкерилайнен; иностранцы; интернационалисты; инхокваринцы; иорданцы; иракцы; иранцы; иркит (с любым языком, кроме бурятского и сойотского); иркит (с языком бурятским); иркит (с языком сойотским); ирландцы; ирон; иронцы; исландцы; испаноамериканцы; испанцы; исраэль; исроэл; италошвейцарцы; итальянцы; ительмены; ительмень; итэнмьи; ихрекцы; ичкерийцы; ишкашимцы; ишкошими; йезиды; йеменцы; йоруба; йупигыт; йытас; йыхбы; йыш-кижи;","num_words":140,"character_repetition_ratio":0.041,"word_repetition_ratio":0.0,"special_characters_ratio":0.207,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.938,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"лагосцы; ладинос; лазы; лак; лаки; лаккучу; лакучу; лакцы; ламунка; ламут; ламут-наматкан; ланкийцы; лао; лао хуйхуй; лаосцы; лаппи; латвиетис; латвиеши; латвийцы; латгалиетис; латгалы; латгальцы; латиноамериканцы; латыши; лезги; лезгины; лезгияр; лемки; ленские старожилы; лерикцы; лесные марийцы; лесотцы; летувис; летувник; летувяй; либерийцы; ливанцы; ливвикёй; ливвики; ливгиляйне; ливийцы; липоване; литваки (с любым языком, кроме литовского); литваки (с языком литовским); литвины (с любым языком, кроме литовского); литвины (с языком литовским); литвяки (с любым языком, кроме литовского); литвяки (с языком литовским); литовцы; лихтенштейнцы; лопари; луандийцы; лугово-восточные марийцы; луговые марийцы; луораветлан; луча; лыгъоравэтлъан; лыгъоравэтлят; людики; людиникат; люксембуржцы; люли; лююдикёй; лююдилайне (с любым языком, кроме вепсского); лююдилайне (с языком вепсским); маарулал; маврикийцы; мавританцы; мавры; мадагаскарцы; маду; мадьяр; мадьяры; мазанг; майман; майминцы; македонцы; малавийцы; малагасийцы; малайзийцы; малайцы; малийцы; малинке; малкарцы; малкъарлы; малкъарлыла; малороссийцы; малороссы; малые дэрбэты; мальгаши; мальдивцы; мамоны; мамхеги; мангуны; манден; мандинго; манегры; манси; манчжуры; маньджуры; маньчжуры; маори; мар; маргали; мари; марий; марийцы; марийцы ветлужские; марийцы восточные; марийцы горные; марийцы лесные; марийцы лугово-восточные; марийцы луговые; марийцы уральские; марковцы; марокканцы; масаи; махачкалинцы; махмеги; махмеговцы; мегрелы; мегьебор; мезенцы; мексиканцы; меланезийцы; мелхи (с любым языком, кроме ингушского); мелхи (с языком ингушским); менгрелы; меннонитен; меннониты; меньдси; мео; мерет; меркит; месхетинцы; месхи; метисы; мещеряки; мижер (с любым языком, кроме чувашского); мижер (с языком чувашским); мижерь; мин; мингечаурцы; мингрелы; минские башкиры; минчане; мишари; мишары; мишэр; моансь; могади; могилевцы; могилевчане; модор; мозамбикцы; мозыряне; мокша; молдаване; молдовень; молокане; монакцы; монголы; монегаски; монигаски; моол; мораване; мордва; мордва-мокша; мордва-шокша; мордва-эрзя; мордвины; мордовцы; моси; мугат; мугулёвцы; мулаты; мультони; мундус (с любым языком, кроме теленгитского); мундус (с языком теленгитским); мурчен; мусульмане боснийские; мухаджиры; мых абдыр; мьянма; мэнэ; мюхадар; мяо;","num_words":259,"character_repetition_ratio":0.092,"word_repetition_ratio":0.0,"special_characters_ratio":0.211,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.769,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"бабаюртовские ногайцы; багамцы; багвалалы; багвалинцы; багулав; багулалы; бадахшанцы; баджавидж; баджуведж; баджувидж; баджувцы; баджуйцы; байаттар; байлагас; бакве; бакинцы; бакоси; баксанцы; балийцы; балкарцы; балоч; балуч; бамар; бамбара; бамилике; бангкогцы; бангладеши; бангладешцы; бани исроил; банту; бараба; барабинцы; баргузинцы; бардыйак; бартангидж; бартангцы; баряат; баски; баскогасконцы; батумские курды; батумский народ курманч; бафут; бахарна; бахрейнцы; башкиро-татары (с любым языком, кроме татарского); башкиро-татары (с языком татарским); башкирские татары; башкирцы; башкиры; башкиры минские; башкиры-тептяри; башкорт; башкурт; башлайски; баяд; бежитинцы; бежтинцы; без нации; без национальной принадлежности; без национальности; безенгийцы; беларусы; белорусы; белуджи; белуч; бельгийцы; бельгийцы нидерландские; бельтиры; бемба; бенгали; бенгальцы; бенинцы; бенинцы йоруба; бенойцы; бепся; берберы; берестейцы; берестяне; берш; бесер; бесерман; бесермяне; бесленеевцы (с любым языком, кроме адыгейского); бесленеевцы (с языком адыгейским); бесленеи; бесленей; бессарабцы; бессарабы; бешермяне; бжедуги; бзыбцы; бигер; бирманцы; бисау-гвинейцы; бихарцы; богденцы; богускан; бойки; болгары (с любым языком, кроме татарского и чувашского); болгары (с языком татарским); болгары (с языком чувашским); болгары волго-камские; болгары волжеские; болгары волжские; болгары камские; болгары самарские; болгары семберские; болдыры; боливийцы; большие дэрбэты; босанцы; боснийские мусульмане; боснийцы; боснийцы-мусульмане; босняки; ботлихцы; ботсванцы; бохарлы; боша; бошняки; бразильцы; брестчане; бретонцы; брешуки; брещуки; британцы; бузавы; буйнакцы; буйхади; буковинцы; булгаро-аланы; булгаро-татары; булгаро-тюрки; булгары; булгары волго-камские; булгары волжские; булгары волжско-камские; булгары камские; бульбаши; буркинабцы; буркинийцы; буртасы (с любым языком, кроме чувашского); буртасы (с языком чувашским); бурундийцы; бурундцы; буряад; буряты; бухарские евреи; бухарцы (с любым языком, кроме таджикского); бухарцы (с языком таджикским); бушман;","num_words":222,"character_repetition_ratio":0.088,"word_repetition_ratio":0.0,"special_characters_ratio":0.198,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.837,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/ashpi.livejournal.com\/135706.html","collection":"languages_of_russia","source":"ashpi.livejournal.com","original_code":"niv","text":"рачинцы; ром; рома; ромеи; ромеос; ромеюс; ромынь; россияне; руандийцы; рум; румей; румыны; рупаланы; рупци; русини; русины; русины подкарпатские; руснаки; русняки; русские; русские казаки; русские немцы; русские поморы; русскоустьинцы; русско-устьинцы; рутены; рутул; рутульцы; рухни; рушанцы; рушони; сöлькуп; саал (с любым языком, кроме теленгитского); саал (с языком теленгитским); саами; саамы; саб; сабры; савакот; сагай; сагайцы; сагал; саксонцы; сальвадорцы; самагиры; самарские болгары; саммъ; саммьленч; сантомийцы; сартулы; сарты; сасигнан; саудовцы; саха (с любым языком, кроме долганского); саха (с языком долганским); сваны; селькупы; семберские болгары; семейские; сенегальцы; сербы; серп; серт; сето; сету; сибир; сибир татарлар; сибирские татары; сибирь; сибиряки; сибо; сибо маньчжу; сибэ; сибэр; сикхи; сингалы; синдхи; синти; сиренигмит; сирийцы; сихуле; сицилийцы; скобари; славянцы; слободские удмурты; словаки; словенцы; словинцы; сложная национальность; смоляки; со; советские; соёд; сойон (с любым языком, кроме теленгитского и тувинского); сойон (с языком теленгитским); сойон (с языком тувинским); сойоны (с любым языком, кроме тувинского ); сойоны (с языком тувинским); сойоты (с любым языком, кроме тувинского); сойоты (с языком тувинским); сойыт; солу; сомали; сомалийцы; сомату; срб; среднеазиатские арабы; среднеазиатские евреи; среднеазиатские цыгане; срп; староверы; старожилы; старожилы ленские; старожилы обские; степские казахи; суахили; субботники; сувары; суданцы; сулакские ногайцы; суомалайсет; суоми; сурайя; суринамцы; суссе кум; сухумцы; сыгыныгмит; сьерралеонцы; сэрвы;","num_words":193,"character_repetition_ratio":0.095,"word_repetition_ratio":0.0,"special_characters_ratio":0.217,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.967,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.perepis2002.ru\/ct\/html\/tom_04_01.htm","collection":"languages_of_russia","source":"www.perepis2002.ru","original_code":"niv","text":"(абадзехи, адыгэ с языком адыгейским, бесленеевцы с языком адыгейским, бжедуги, мамхеги, махмеги, махмеговцы)","num_words":13,"character_repetition_ratio":0.176,"word_repetition_ratio":0.0,"special_characters_ratio":0.198,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.458,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.perepis2002.ru\/ct\/html\/tom_04_01.htm","collection":"languages_of_russia","source":"www.perepis2002.ru","original_code":"niv","text":"(ороч с языком ульта, орочён с языком ульта, уйльта, ульта, ульча с языком ульта)","num_words":14,"character_repetition_ratio":0.178,"word_repetition_ratio":0.0,"special_characters_ratio":0.244,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.587,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.perepis2002.ru\/ct\/html\/tom_04_01.htm","collection":"languages_of_russia","source":"www.perepis2002.ru","original_code":"niv","text":"(илкан, ламут, ламут-наматкан, мэнэ, овен, овон, ороч с языком эвенским, орочёл, орочель, орочён с языком эвенским, тунгусы с языком эвенским, тургэхал, ывын, эбэн, эвон, эвын, эвэн, эвэс)","num_words":27,"character_repetition_ratio":0.148,"word_repetition_ratio":0.0,"special_characters_ratio":0.257,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.331,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.perepis2002.ru\/ct\/html\/tom_04_01.htm","collection":"languages_of_russia","source":"www.perepis2002.ru","original_code":"niv","text":"(алюторцы, алутальу, апокваямыл`о, апукинцы, войкыпал`о, воямпольцы, каменцы, карагинцы, каран`ыныльо, нымыланы, олюторцы, чавчувены, чавчыв)","num_words":13,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.222,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.175,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.perepis2002.ru\/ct\/html\/tom_04_01.htm","collection":"languages_of_russia","source":"www.perepis2002.ru","original_code":"niv","text":"(алтай-кижи, кыпчак с языком алтайским, майминцы, найман с языком алтайским)","num_words":10,"character_repetition_ratio":0.2,"word_repetition_ratio":0.0,"special_characters_ratio":0.228,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.29,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/dnevniki.ykt.ru\/louis\/326951","collection":"languages_of_russia","source":"dnevniki.ykt.ru","original_code":"niv","text":"047. Черкесы (адыгэ с языком черкесским, бесленеевцы с языком кабардино-черкесским, бесленеи): 60517","num_words":10,"character_repetition_ratio":0.176,"word_repetition_ratio":0.0,"special_characters_ratio":0.26,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.885,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/dnevniki.ykt.ru\/louis\/326951","collection":"languages_of_russia","source":"dnevniki.ykt.ru","original_code":"niv","text":"011. Казахи (адай, аргын, берш, жагайбайлы, жаппас, керей, кыпчак с языком казахским, найман с языком казахским, ногай с языком казахским, степские казахи, табын, тама, торкара, туратинские казахи, уак): 653962","num_words":27,"character_repetition_ratio":0.189,"word_repetition_ratio":0.0,"special_characters_ratio":0.262,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.33,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/dnevniki.ykt.ru\/louis\/326951","collection":"languages_of_russia","source":"dnevniki.ykt.ru","original_code":"niv","text":"065. Эвены (илкан, ламут, ламут-наматкан, мэнэ, овен, овон, ороч с языком эвенским, орочёл, орочель, орочён с языком эвенским, тунгусы с языком эвенским, тургэхал, ывын, эбэн, эвон, эвын, эвэн, эвэс): 19071","num_words":28,"character_repetition_ratio":0.188,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.354,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/dnevniki.ykt.ru\/louis\/326951","collection":"languages_of_russia","source":"dnevniki.ykt.ru","original_code":"niv","text":"046. Алтайцы (алтай-кижи, кыпчак с языком алтайским, майминцы, найман с языком алтайским): 67239","num_words":11,"character_repetition_ratio":0.184,"word_repetition_ratio":0.0,"special_characters_ratio":0.292,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.319,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/dnevniki.ykt.ru\/louis\/326951","collection":"languages_of_russia","source":"dnevniki.ykt.ru","original_code":"niv","text":"007. Армяне (амшенцы, гай, донские армяне, крымские армяне, франк, хай, черкесогаи): 1130491","num_words":10,"character_repetition_ratio":0.096,"word_repetition_ratio":0.0,"special_characters_ratio":0.337,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.738,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/dnevniki.ykt.ru\/louis\/326951","collection":"languages_of_russia","source":"dnevniki.ykt.ru","original_code":"niv","text":"048. Литовцы (аукштайты, жемайты, летувник(-и), летувяй, литвины с языком литовским, литвяки\/литваки с языком литовским): 45569","num_words":13,"character_repetition_ratio":0.169,"word_repetition_ratio":0.0,"special_characters_ratio":0.276,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.7,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/bayanay.info\/index.php?newsid=2923","collection":"languages_of_russia","source":"bayanay.info","original_code":"niv","text":"\"Егор<\/a>","num_words":13,"character_repetition_ratio":0.117,"word_repetition_ratio":0.0,"special_characters_ratio":0.256,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.227,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/bayanay.info\/index.php?newsid=2923","collection":"languages_of_russia","source":"bayanay.info","original_code":"niv","text":"\"Aartyk.Ru<\/a>","num_words":14,"character_repetition_ratio":0.126,"word_repetition_ratio":0.0,"special_characters_ratio":0.31,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.087,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/bayanay.info\/index.php?newsid=2923","collection":"languages_of_russia","source":"bayanay.info","original_code":"niv","text":"\"Мир<\/a>","num_words":11,"character_repetition_ratio":0.152,"word_repetition_ratio":0.0,"special_characters_ratio":0.299,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.239,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/bayanay.info\/index.php?newsid=2923","collection":"languages_of_russia","source":"bayanay.info","original_code":"niv","text":"\"Охота<\/a>","num_words":14,"character_repetition_ratio":0.134,"word_repetition_ratio":0.0,"special_characters_ratio":0.295,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.181,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/earthpapers.net\/sostoyanie-i-ispolzovanie-biologicheskih-obektov-hvoyno-shirokolistvennyh-lesov-yuga-rossiyskogo-dalnego-vostoka","collection":"languages_of_russia","source":"earthpapers.net","original_code":"niv","text":"176. Животченко В.И., Шалдыбин С.Л., Олигер Т.И. и др. Лазовский заповедник : монография. М : Агропромиздат, 1989. 206 с.","num_words":14,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.364,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.238,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/earthpapers.net\/sostoyanie-i-ispolzovanie-biologicheskih-obektov-hvoyno-shirokolistvennyh-lesov-yuga-rossiyskogo-dalnego-vostoka","collection":"languages_of_russia","source":"earthpapers.net","original_code":"niv","text":"402. Франкфорт Г, Франкфорт Г.А, Уилсон Дж, Якобсен Т. В преддверии философии : монография. М.: Наука, 1984. 240 с.","num_words":14,"character_repetition_ratio":0.057,"word_repetition_ratio":0.0,"special_characters_ratio":0.374,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.657,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/earthpapers.net\/sostoyanie-i-ispolzovanie-biologicheskih-obektov-hvoyno-shirokolistvennyh-lesov-yuga-rossiyskogo-dalnego-vostoka","collection":"languages_of_russia","source":"earthpapers.net","original_code":"niv","text":"224. Кузнецов А.П. Тайга не тигропитомник \/\/ Газета «Красное Знамя» (Владивосток). Март 1988 г.","num_words":11,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.337,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.264,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/forrum.ru\/index.php?showtopic=12104&st=50","collection":"languages_of_russia","source":"forrum.ru","original_code":"niv","text":"Армяне (амшенцы, гай, донские армяне, крымские армяне, франк, хай, черкесогаи): 1 130 491 чел.","num_words":11,"character_repetition_ratio":0.094,"word_repetition_ratio":0.0,"special_characters_ratio":0.319,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.499,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/forrum.ru\/index.php?showtopic=12104&st=50","collection":"languages_of_russia","source":"forrum.ru","original_code":"niv","text":"Эвены (илкан, ламут, ламут-наматкан, мэнэ, овен, овон, ороч с языком эвенским, орочёл, орочель, орочён с языком эвенским, тунгусы с языком эвенским, тургэхал, ывын, эбэн, эвон, эвын, эвэн, эвэс): 19 071 чел.","num_words":29,"character_repetition_ratio":0.187,"word_repetition_ratio":0.0,"special_characters_ratio":0.275,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.335,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/forrum.ru\/index.php?showtopic=12104&st=50","collection":"languages_of_russia","source":"forrum.ru","original_code":"niv","text":"Черкесы (адыгэ с языком черкесским, бесленеевцы с языком кабардино-черкесским, бесленеи): 60 517 чел.","num_words":11,"character_repetition_ratio":0.196,"word_repetition_ratio":0.0,"special_characters_ratio":0.238,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.872,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/forrum.ru\/index.php?showtopic=12104&st=50","collection":"languages_of_russia","source":"forrum.ru","original_code":"niv","text":"Турки (османы, турки-батумцы, турки-османы, турки-сухумцы, тюрк с языком турецким): 92 415 чел.","num_words":10,"character_repetition_ratio":0.116,"word_repetition_ratio":0.0,"special_characters_ratio":0.284,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.431,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/forrum.ru\/index.php?showtopic=12104&st=50","collection":"languages_of_russia","source":"forrum.ru","original_code":"niv","text":"Негидальцы (амгун бэйенин, на бэйенин, негды, нясихагил, элькан дэйнин): 567 чел.","num_words":10,"character_repetition_ratio":0.056,"word_repetition_ratio":0.0,"special_characters_ratio":0.259,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.19,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/forrum.ru\/index.php?showtopic=12104&st=50","collection":"languages_of_russia","source":"forrum.ru","original_code":"niv","text":"Литовцы (аукштайты, жемайты, летувник(-и), летувяй, литвины с языком литовским, литвяки\/литваки с языком литовским): 45 569 чел.","num_words":14,"character_repetition_ratio":0.168,"word_repetition_ratio":0.0,"special_characters_ratio":0.258,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.743,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/forrum.ru\/index.php?showtopic=12104&st=50","collection":"languages_of_russia","source":"forrum.ru","original_code":"niv","text":"Алтайцы (алтай-кижи, кыпчак с языком алтайским, майминцы, найман с языком алтайским): 67 239 чел.","num_words":12,"character_repetition_ratio":0.182,"word_repetition_ratio":0.0,"special_characters_ratio":0.268,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.25,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/kronk.spb.ru\/library\/dobzhansky-vn-1990-3.htm","collection":"languages_of_russia","source":"kronk.spb.ru","original_code":"niv","text":"Ардзинба В.Г. Ритуалы и мифы древней Анатолии. С. 22; Франкворт Г., Франкворт Г.А., Уилсон Дж., Якобсен Т. В преддверии философии: Духовные искания древнего человека. М., 1984. С. 131-143.","num_words":24,"character_repetition_ratio":0.045,"word_repetition_ratio":0.0,"special_characters_ratio":0.335,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.721,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/prihod.rugraz.net\/index.php?option=com_content&view=article&id=304:esli-bog-est-ljubov&catid=20:publikacii&Itemid=45","collection":"languages_of_russia","source":"prihod.rugraz.net","original_code":"niv","text":"Так Зевс, не являющийся ни творцом мира, ни творцом людей","num_words":10,"character_repetition_ratio":0.125,"word_repetition_ratio":0.0,"special_characters_ratio":0.193,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.983,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/librar.org.ua\/sections_load.php?s=philology&id=3066","collection":"languages_of_russia","source":"librar.org.ua","original_code":"niv","text":"КССФПф, ПрКССФ, ПрКСФПф, ПрКССФПф, ПрПрКССФ (здесь и далее: Пр – префикс, К – корень, С – суффикс, Ф –","num_words":15,"character_repetition_ratio":0.086,"word_repetition_ratio":0.0,"special_characters_ratio":0.304,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.53,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Ходжер Г. Амур широкий; Шундик Н.Е. Белый шаман \/\/ Шундик Н.Е. Собр. соч. Т. 3.","num_words":12,"character_repetition_ratio":0.114,"word_repetition_ratio":0.0,"special_characters_ratio":0.354,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.695,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"1107. Шамшурин Ю.И. У студеного моря. М.: Молодая гвардия, 1952. 11 OS. Шамшурин Ю.И Шли двое по тундре. М.: Молодая гвардия, 1972.","num_words":18,"character_repetition_ratio":0.164,"word_repetition_ratio":0.0,"special_characters_ratio":0.382,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.562,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Богораз[-Тан] В.Г Воскресшее племя; Гор Г. У большой реки; Он же. Ланжеро; Kpamm И. Тинька; Кунгуров Г.Ф. Топка. Иркутск, 1964; Семушкин Т.З. Чукотка.","num_words":21,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.327,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.359,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"См.: Калашников И.Т. Дочь купца Жолобова. СПб., 1831; Он же. Камчадалка. СПб., 1833. О Калашникове см.: Diment, Galya. Exiled from Siberia: The Construction of Siberian Experience by Early-Nineteenth-Century Irkutsk Writers \/ \/ Between Heaven and Hell. P. 54—59.","num_words":33,"character_repetition_ratio":0.04,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.267,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Любовцев В., Симченко Ю.В. Тундра не любит слабых. С. 75; Симченко Ю.В. Люди высоких широт. М., 1972. С. 7.","num_words":16,"character_repetition_ratio":0.122,"word_repetition_ratio":0.0,"special_characters_ratio":0.374,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.545,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"1107. Шамшурин Ю.И. У студеного моря. М.: Молодая гвардия, 1952. 11 OS. Шамшурин Ю.И Шли двое по тундре. М.: Молодая гвардия, 1972.","num_words":18,"character_repetition_ratio":0.164,"word_repetition_ratio":0.0,"special_characters_ratio":0.382,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.562,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Ходжер Г. Амур широкий; Шундик Н.Е. Белый шаман \/\/ Шундик Н.Е. Собр. соч. Т. 3.","num_words":12,"character_repetition_ratio":0.114,"word_repetition_ratio":0.0,"special_characters_ratio":0.354,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.695,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Богораз[-Тан] В.Г Воскресшее племя; Гор Г. У большой реки; Он же. Ланжеро; Kpamm И. Тинька; Кунгуров Г.Ф. Топка. Иркутск, 1964; Семушкин Т.З. Чукотка.","num_words":21,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.327,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.359,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"462. Кривошапкин М.Ф. Енисейский округ и его жизнь: В 2 т. СПб., 1865.","num_words":10,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.4,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.993,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Любовцев В., Симченко Ю.В. Тундра не любит слабых. М., 1968. См. также: Куваев О. Избранное. Т. 1. С. 157.","num_words":16,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.396,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.315,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Любовцев В., Симченко Ю.В. Тундра не любит слабых. С. 75; Симченко Ю.В. Люди высоких широт. М., 1972. С. 7.","num_words":16,"character_repetition_ratio":0.122,"word_repetition_ratio":0.0,"special_characters_ratio":0.374,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.545,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"Любовцев В., Симченко Ю.В. Тундра не любит слабых. М., 1968. См. также: Куваев О. Избранное. Т. 1. С. 157.","num_words":16,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.396,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.315,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"462. Кривошапкин М.Ф. Енисейский округ и его жизнь: В 2 т. СПб., 1865.","num_words":10,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.4,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.993,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/fb2bookdownload.ru\/engine\/reader.php?id=819","collection":"languages_of_russia","source":"fb2bookdownload.ru","original_code":"niv","text":"См.: Калашников И.Т. Дочь купца Жолобова. СПб., 1831; Он же. Камчадалка. СПб., 1833. О Калашникове см.: Diment, Galya. Exiled from Siberia: The Construction of Siberian Experience by Early-Nineteenth-Century Irkutsk Writers \/ \/ Between Heaven and Hell. P. 54—59.","num_words":33,"character_repetition_ratio":0.04,"word_repetition_ratio":0.0,"special_characters_ratio":0.286,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.267,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/nedoblog.ru\/%D0%B7%D1%83%D0%B1%D0%BE%D0%B2-%D0%B0-%D0%B1-%D0%B8%D1%81%D1%82%D0%BE%D1%80%D0%B8%D1%8F-%D1%80%D0%B5%D0%BB%D0%B8%D0%B3%D0%B8%D0%B9\/","collection":"languages_of_russia","source":"nedoblog.ru","original_code":"niv","text":"Г.Г.: «Я иду этой темной деревней. «Диулимди ама (ведущий. — А.С.), хорошенько иди! Сэрумэ пиктэ, ты направляй, чтобы я не напрасно камлала. Алха Мама, Дилу Мама, хорошенько идите»!","num_words":26,"character_repetition_ratio":0.081,"word_repetition_ratio":0.0,"special_characters_ratio":0.276,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.979,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/nedoblog.ru\/%D0%B7%D1%83%D0%B1%D0%BE%D0%B2-%D0%B0-%D0%B1-%D0%B8%D1%81%D1%82%D0%BE%D1%80%D0%B8%D1%8F-%D1%80%D0%B5%D0%BB%D0%B8%D0%B3%D0%B8%D0%B9\/","collection":"languages_of_russia","source":"nedoblog.ru","original_code":"niv","text":"«Восходящее солнце! Восходящий Акпан! Дайте хорошего здоровья, хорошей жизни! Помилуйте нас, дабы было хорошо нам! Восходящее солнце, свети мне в лицо лучами своими! Помилуйте нас, восходящее солнце, восходящий Акпан!»2.","num_words":29,"character_repetition_ratio":0.156,"word_repetition_ratio":0.0,"special_characters_ratio":0.195,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.988,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/nedoblog.ru\/%D0%B7%D1%83%D0%B1%D0%BE%D0%B2-%D0%B0-%D0%B1-%D0%B8%D1%81%D1%82%D0%BE%D1%80%D0%B8%D1%8F-%D1%80%D0%B5%D0%BB%D0%B8%D0%B3%D0%B8%D0%B9\/","collection":"languages_of_russia","source":"nedoblog.ru","original_code":"niv","text":"Г.Г. [больному]: «Ты видел сон: сидишь в шалаше, лодки нет, думал, куда пойду? Видел это?» — «Да!» — «Небо в тучах, солнца нет — видел?» — «Да».","num_words":22,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.382,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.997,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/nedoblog.ru\/%D0%B7%D1%83%D0%B1%D0%BE%D0%B2-%D0%B0-%D0%B1-%D0%B8%D1%81%D1%82%D0%BE%D1%80%D0%B8%D1%8F-%D1%80%D0%B5%D0%BB%D0%B8%D0%B3%D0%B8%D0%B9\/","collection":"languages_of_russia","source":"nedoblog.ru","original_code":"niv","text":"3Полную библиографию трудов Вильгельма Щмидта см.: W. Schmidt. Wege der Kulturen: Gesammelte Aufsatze. Studia Instituti Anthropos. V. 20. S. Augustin. 1964.","num_words":19,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.204,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Коми-пермяки (зюздинцы, коми (с языком коми-пермяцким), коми морт (с языком коми-пермяцким), коми отир, коми-зюздинцы, коми-язьвинцы, пермяки, язьвинцы)","num_words":17,"character_repetition_ratio":0.14,"word_repetition_ratio":0.0,"special_characters_ratio":0.224,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.854,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Горские евреи (горские, горские таты, губои, даг-чуфут, дагестанские евреи, дарбанди, джалганцы, джуур, джуфут, джухут, еуди, кайтоги, татские евреи, таты дагестанские, таты-иудаисты, чуфут, ширвони)","num_words":23,"character_repetition_ratio":0.079,"word_repetition_ratio":0.0,"special_characters_ratio":0.216,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.434,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"ульча (с любым языком, кроме уйльта, орокским, ороченским, орочёнским, уйльтским, ульта, ультинским, ультским)","num_words":13,"character_repetition_ratio":0.04,"word_repetition_ratio":0.0,"special_characters_ratio":0.2,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.256,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Сибирские татары (бараба, барабинцы, бохарлы, бухарцы, заболотные татары, калмаки, курдакско-саргатские татары, параба, сибир, сибир татарлар, сибирь, сибэр, тарлик, тарские татары, тевризские татары, тоболик, тобольские татары, тураминцы, тюменско-тюринские татары, чаты, эуштинцы, ясколбинские татары, яушта)","num_words":33,"character_repetition_ratio":0.12,"word_repetition_ratio":0.0,"special_characters_ratio":0.187,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.742,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Даргинский (акушинский, амузгинский, дарганский, кайтагский, кубачинский, сулевкайский, сулевкентский, урахинский, урбугский, хайдакский, хюркилинский, цудахарский)","num_words":13,"character_repetition_ratio":0.039,"word_repetition_ratio":0.0,"special_characters_ratio":0.152,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.672,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Татары (башкиро-татары (с языком татарским), башкирские татары, бигер, казанлы, казанские татары, караинские татары, каринские татары, касимовские татары, кестымлар, нократлы, нократские татары, нукратские татары, нухратские татары, татар, татарлар, татаро-башкиры, тептер, тептери, тептяри, тептяри-татары, типтяр, чепецкие татары, астраханские татары, алабугатские татары, юртовские татары, кряшены, крещенцы, крещеные, крещеные татары, крещёны, кряшены-русские, кряшены-татары, мишари, мещеряки, мижер, мишары, мишэр, сибирские татары, бараба, барабинцы, бохарлы, бухарцы, заболотные татары, калмаки, курдакско-саргатские татары, параба, сибир, сибир татарлар, сибирь, сибэр, тарлик, тарские татары, тевризские татары, тоболик, тобольские татары, тураминцы, тюменско-тюринские татары, чаты, эуштинцы, ясколбинские татары, яушта)","num_words":87,"character_repetition_ratio":0.175,"word_repetition_ratio":0.0,"special_characters_ratio":0.189,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.537,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Даргинцы (губденцы, дарган, дарганти, урахинцы, урбуган, кайтагцы, кайтаги, кара-кайтаги, хайдаг, хайдаклан, хайдакъан, хайдакъанти, кубачинцы, пугбуг, угбуг, угбуган, угбуганти)","num_words":18,"character_repetition_ratio":0.083,"word_repetition_ratio":0.0,"special_characters_ratio":0.202,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.188,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Белорусы (беларусы, берестейцы, берестяне, брестчане, брешуки, брещуки, бульбаши, витебские, гомельчане, гудовляне, гуды, ибуряги, литваки, литвины, литвяки, минчане, могилевцы, могилевчане, мозыряне, мугулёвцы, оршанцы, пинчуки, полешуки, полещуки, полочане, поляки (с языком белорусским), тудовляне (с языком белорусским), чалдоны (с языком белорусским)","num_words":38,"character_repetition_ratio":0.133,"word_repetition_ratio":0.0,"special_characters_ratio":0.2,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.86,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Челканцы (ак паш, аксак, алтай (с языком челканским), алтайцы-чалканцы, алтайцы-челканцы, алыйан, бардыйак, кара тювен, кертен, кёрюкейлер, кожо, колчач, коргунак, куу-кижи, кызыл кёс, кюзен (с языком челканским), ньондукой, похтарак, серт, тевичи, тьазол, тьарты, тьеткыр, чалканду, чалканцы, шакшылык, шалганныг, шалганы, шалканду)","num_words":39,"character_repetition_ratio":0.105,"word_repetition_ratio":0.0,"special_characters_ratio":0.225,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.432,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Буряты (агинцы, аларцы, алуры, баргузинцы, баряат, баяд, буряад, гураны (с языком бурятским), кударинские (с языком бурятским), курымкане, сартулы, тангуты, хамниганы, хонгодоры, хоринцы, цонголы)","num_words":23,"character_repetition_ratio":0.139,"word_repetition_ratio":0.0,"special_characters_ratio":0.219,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.369,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"таты (с языком армянским, амшенским, арцахским, хайрен, хемшильским, хемшинским, хомшецма, хяйрен )","num_words":11,"character_repetition_ratio":0.0,"word_repetition_ratio":0.0,"special_characters_ratio":0.202,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.17,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Турки (османы, сухумцы, турки-батумцы, турки-османы, турки-сухумцы, тюрк (с языком турецким)","num_words":10,"character_repetition_ratio":0.096,"word_repetition_ratio":0.0,"special_characters_ratio":0.217,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.312,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Азербай-джанаАрменииБеларусиКазахстанеКиргизииМолдавииТаджикистанеТуркменииУзбекистанеУкраинестраны проживанияБолга-рииПоль-шидругих стран ЕвропыАфгани-станаВьет-намаКитаяКореиТур-циидругих стран АзииКанадыСШАдругих стран Америкистран Африкистран Океа-нии","num_words":10,"character_repetition_ratio":0.073,"word_repetition_ratio":0.0,"special_characters_ratio":0.063,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.958,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"с размером общей площади, кв.мне указав-шие размер общей площади квар-тиры","num_words":10,"character_repetition_ratio":0.154,"word_repetition_ratio":0.0,"special_characters_ratio":0.176,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.999,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Среднеазиатские евреи (бани исроил, бухарские евреи, бухарцы (с языком таджикским), дживут бухари, джугут, джухут иври, джухути бухори, иври, исроэл, яхуди, яхуди бухорои, яхудои махали)","num_words":24,"character_repetition_ratio":0.011,"word_repetition_ratio":0.0,"special_characters_ratio":0.204,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.265,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Аварцы (аварал, маарулал, тляратинцы, андийцы, андал, андии, гванал, кваннал, куаннал, арчинцы, арчи, арчиб, аршиштиб, ахвахцы, ахвалал, ашвалъ, ашватл, багулалы, багвалалы, багвалинцы, багулав, гантляло, кванадинцы, кванадлетцы, тлибишинцы, тлиссинцы, бежтинцы, бежитинцы, капучины, хванал, ботлихцы, буйхади, гинухцы, гъинухъес, гьенози, годоберинцы, гибдиди, ибдиди, гунзибцы, гунзал, нахада, хунзалис, хунзалы, дидойцы, цезы, цунтинцы, каратинцы, анчихцы, кирди, тукитинцы, тиндалы, идари, идери, тиндии, тиндинцы, хваршины, акьилько, атлилько, инхокваринцы, хвайнинцы, хваршал, хваршинцы, хуани, чамалалы, урухцы, чамалали, чамали, чамалинцы)","num_words":69,"character_repetition_ratio":0.028,"word_repetition_ratio":0.0,"special_characters_ratio":0.212,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.182,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"тат (с любым языком, кроме армянского, амшенского, арцахского, хайрен, хемшильского, хемшинского, хомшецма, хяйрен, крымскотатарского, крымского, крымско-татарского)","num_words":16,"character_repetition_ratio":0.077,"word_repetition_ratio":0.0,"special_characters_ratio":0.176,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.643,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"орстхойцы (с любым языком, кроме чеченского, аккинского, ауховского, чеберлоевского, шароевского, шаройского)","num_words":11,"character_repetition_ratio":0.099,"word_repetition_ratio":0.0,"special_characters_ratio":0.173,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.847,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"с размером общей площади, кв.мне указавшие размер общей площади квартиры","num_words":10,"character_repetition_ratio":0.159,"word_repetition_ratio":0.0,"special_characters_ratio":0.153,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Кумандинцы (öре куманды, алтай (с языком кумандинским), алтай-куманды, алтайцы-кумандинцы, алтна куманды, алтына куманды, ёре-куманды, калар, карга, керсагал, кубанды, кувандыг, куманды, куманды-кижи, кюзен (с языком кумандинским), со, солу, тÿбере куманды, тyбере куманды, табыска, тадар, тадар-кижи, тадарлар, тастар (с языком кумандинским), тёбере куманды, тонул, тоон (с языком кумандински��), чабат, чедвер, чедыбер, челей, шабат, шор (с языком кумандинским)","num_words":55,"character_repetition_ratio":0.199,"word_repetition_ratio":0.0,"special_characters_ratio":0.221,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.156,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"с размером общей площади, кв.мне указавшие размер общей площади квартиры","num_words":10,"character_repetition_ratio":0.159,"word_repetition_ratio":0.0,"special_characters_ratio":0.153,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":1.0,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Негидальцы (амгун бэйенин, на бэйенин, негды, нигедальцы, нясихагил, элканбэйэ, элькан дэйнин)","num_words":11,"character_repetition_ratio":0.047,"word_repetition_ratio":0.0,"special_characters_ratio":0.191,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.205,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Сойоты (иркит (с языком бурятским), иркит (с языком сойотским), онхот, соёд, сойыт, хаазуут)","num_words":13,"character_repetition_ratio":0.169,"word_repetition_ratio":0.0,"special_characters_ratio":0.25,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.925,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"орстхоевцы (с любым языком, кроме чеченского, аккинского, ауховского, чеберлоевского, шароевского, шаройского)","num_words":11,"character_repetition_ratio":0.098,"word_repetition_ratio":0.0,"special_characters_ratio":0.171,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.696,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Чеченцы (бенойцы, вайнахи, гехинцы, ичкерийцы, мелхи, нахчо, нохчий, нохчо, орстхоевцы (с языком чеченским), орстхой, орстхойцы (с языком чеченским), чеченцы-аккинцы, акинцы, аккий, аккинцы, аккой, аккхий, ауховцы, чеченцы-акинцы, экинцы)","num_words":27,"character_repetition_ratio":0.122,"word_repetition_ratio":0.0,"special_characters_ratio":0.223,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.638,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Азербайджанцы (азербайджанлы, азербайджанлылар, азери, айрумы, бакинцы, башлайски, дашкесанцы, евлахцы, имишлинцы, карабахцы, карапапахи, лерикцы, мингечаурцы, татребы, терекеме, тюрк (с языком азербайджанским), шамхорцы)","num_words":21,"character_repetition_ratio":0.061,"word_repetition_ratio":0.0,"special_characters_ratio":0.181,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.638,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Хакасы (аринцы, бельтиры, камляр, качинцы, койбалы, кызыл, кызыльцы, сагай, сагайцы, тадар (с языком хакасским), тадар-кижи (с языком хакасским), хаас, хааш, хойбал, хызыл)","num_words":22,"character_repetition_ratio":0.147,"word_repetition_ratio":0.0,"special_characters_ratio":0.244,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.382,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Памирцы (бадахшанцы, баджавидж, баджуведж, баджувидж, баджувцы, баджуйцы, бартангидж, бартангцы, ваханцы, вахи, згамик, ишкашимцы, ишкошими, рухни, рушанцы, рушони, хугни, хунуни, хуфцы, шугнанцы, шугни, язгулемцы)","num_words":23,"character_repetition_ratio":0.034,"word_repetition_ratio":0.0,"special_characters_ratio":0.21,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.41,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Чуваши (анат енчи, анатри, буртасы (с языком чувашским), вирьял, мижер (с языком чувашским), мижерь, сувары, хирти, чаваш)","num_words":17,"character_repetition_ratio":0.159,"word_repetition_ratio":0.0,"special_characters_ratio":0.246,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.493,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"Армяне (амшенские армяне, амшенцы, армяне-таты, армянские таты, армянские цыгане, боша, джаникци, донские армяне, крымские армяне, тат (с языком армянским), таты (с языком армянским), таты-армяне, франк, хай, хамшенци, хамшены, черкесогаи, горские армяне, черкесармяне, черкесские армяне)","num_words":34,"character_repetition_ratio":0.143,"word_repetition_ratio":0.0,"special_characters_ratio":0.208,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.456,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/www.erumpo.ru\/tender\/itema925f11fe6208fc2002291cae31458a6","collection":"languages_of_russia","source":"www.erumpo.ru","original_code":"niv","text":"ульча (с языком уйльта, орокским, ороченским, орочёнским, уйльтским, ульта, ультинским, ультским)","num_words":11,"character_repetition_ratio":0.045,"word_repetition_ratio":0.0,"special_characters_ratio":0.196,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.167,"perplexity_score":500.0,"cluster_detection":-1} +{"url":"http:\/\/udaff.com\/read\/korzina\/127564.html","collection":"languages_of_russia","source":"udaff.com","original_code":"niv","text":"тэээкс што мы наблюдаем? а наблюдаем мы цыничный и беспринцыпный пввн","num_words":11,"character_repetition_ratio":0.033,"word_repetition_ratio":0.0,"special_characters_ratio":0.159,"stopwords_ratio":0.0,"flagged_words_ratio":0.0,"lang_id_score":0.504,"perplexity_score":500.0,"cluster_detection":-1}