You need to agree to share your contact information to access this model

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this model content.

SentenceTransformer based on yklymchuk-rztk/multiple-datasets-e5-master-jina-mnr-4-smartphones-laptops-only-bge

This is a sentence-transformers model finetuned from yklymchuk-rztk/multiple-datasets-e5-master-jina-mnr-4-smartphones-laptops-only-bge on the core dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Sources

Full Model Architecture

RZTKSentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("yklymchuk-rztk/me5-master-jina-mnr-4-smartphones-laptopes-bge-double-filter-categories-finetune")
# Run inference
sentences = [
    'query: крісла офісні',
    "passage: Комп'ютерне крісло Спайдер/BL1508 black Офісні крісла  Тип Крісла для персоналу Основа Хрестовина з роликами Кількість вантажних місць 1 Колір Чорний Країна-виробник товару Китай Максимальне навантаження, кг 110 Особливості Ортопедичні Механізми Газ-ліфт Матеріал оббивки Текстиль Матеріал оббивки Сітка Матеріал корпусу Метал Висота сидіння в верхньому положенні 530 Висота сидіння в нижньому положенні, мм 420",
    'passage: Насадка на болгарку Білорус для МШУ 125 пила ланцюгова автоматична подача масла 295мм Запчастини для болгарок Белорус Країна реєстрації бренда Білорусь Країна-виробник товару Білорусь Діаметр, мм 125 Довжина, мм 295 Матеріал Метал Призначення Болгарки (КШМ)',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

RZTKInformation Retrieval

  • Datasets: core-uk--matryoshka_dim-768--, core-ru--matryoshka_dim-768--, vespa-uk--matryoshka_dim-768-- and vespa-ru--matryoshka_dim-768--
  • Evaluated with sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator
Metric core-uk--matryoshka_dim-768-- core-ru--matryoshka_dim-768-- vespa-uk--matryoshka_dim-768-- vespa-ru--matryoshka_dim-768--
dot_accuracy_10 0.9659 0.9685 0.8587 0.8478
dot_precision_10 0.3795 0.3728 0.6304 0.6141
dot_recall_10 0.4504 0.4463 0.2006 0.1892
dot_ndcg_10 0.5564 0.5564 0.6986 0.6755
dot_mrr_10 0.8415 0.8494 0.7945 0.7623
dot_map_60 0.3951 0.3992 0.5124 0.5012

RZTKInformation Retrieval

  • Datasets: core-uk, core-ru, vespa-uk and vespa-ru
  • Evaluated with sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator
Metric core-uk core-ru vespa-uk vespa-ru
dot_accuracy_10 0.9698 0.9711 0.837 0.8043
dot_precision_10 0.3823 0.3752 0.6217 0.6098
dot_precision_60 0.0696 0.0689 0.3973 0.3987
dot_recall_10 0.4545 0.4486 0.1915 0.1796
dot_recall_60 0.4942 0.4902 0.3514 0.3409
dot_ndcg_10 0.5636 0.5606 0.6901 0.6705
dot_mrr_10 0.8551 0.858 0.7864 0.7562
dot_map_10 0.4167 0.416 0.6406 0.6214
dot_map_60 0.401 0.4026 0.5102 0.502

RZTKInformation Retrieval

  • Datasets: core-uk--matryoshka_dim-768--, core-ru--matryoshka_dim-768--, vespa-uk--matryoshka_dim-768--, vespa-ru--matryoshka_dim-768--, core-uk--matryoshka_dim-512--, core-ru--matryoshka_dim-512--, vespa-uk--matryoshka_dim-512--, vespa-ru--matryoshka_dim-512--, core-uk--matryoshka_dim-256--, core-ru--matryoshka_dim-256--, vespa-uk--matryoshka_dim-256--, vespa-ru--matryoshka_dim-256--, core-uk--matryoshka_dim-128--, core-ru--matryoshka_dim-128--, vespa-uk--matryoshka_dim-128-- and vespa-ru--matryoshka_dim-128--
  • Evaluated with sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator
Metric core-uk--matryoshka_dim-768-- core-ru--matryoshka_dim-768-- vespa-uk--matryoshka_dim-768-- vespa-ru--matryoshka_dim-768-- core-uk--matryoshka_dim-512-- core-ru--matryoshka_dim-512-- vespa-uk--matryoshka_dim-512-- vespa-ru--matryoshka_dim-512-- core-uk--matryoshka_dim-256-- core-ru--matryoshka_dim-256-- vespa-uk--matryoshka_dim-256-- vespa-ru--matryoshka_dim-256-- core-uk--matryoshka_dim-128-- core-ru--matryoshka_dim-128-- vespa-uk--matryoshka_dim-128-- vespa-ru--matryoshka_dim-128--
dot_accuracy_1 0.7874 0.7953 0.7717 0.7283 0.7743 0.7743 0.75 0.7283 0.7454 0.7598 0.7935 0.7174 0.6982 0.7073 0.7391 0.6957
dot_precision_1 0.7874 0.7953 0.7717 0.7283 0.7743 0.7743 0.75 0.7283 0.7454 0.7598 0.7935 0.7174 0.6982 0.7073 0.7391 0.6957
dot_recall_1 0.1203 0.1218 0.0497 0.0499 0.118 0.1179 0.0496 0.0499 0.1129 0.1166 0.052 0.0422 0.1055 0.1071 0.0483 0.0407
dot_ndcg_1 0.7874 0.7953 0.7717 0.7283 0.7743 0.7743 0.75 0.7283 0.7454 0.7598 0.7935 0.7174 0.6982 0.7073 0.7391 0.6957
dot_mrr_1 0.7874 0.7953 0.7717 0.7283 0.7743 0.7743 0.75 0.7283 0.7454 0.7598 0.7935 0.7174 0.6982 0.7073 0.7391 0.6957
dot_map_60 0.401 0.4026 0.5102 0.502 0.3944 0.3954 0.5055 0.4922 0.3775 0.3826 0.4997 0.4708 0.349 0.3541 0.4491 0.4292

Sequential

Metric Value
avg--matryoshka_dim-768--_dot_accuracy_1 0.7707
avg--matryoshka_dim-768--_dot_precision_1 0.7707
avg--matryoshka_dim-768--_dot_recall_1 0.0854
avg--matryoshka_dim-768--_dot_ndcg_1 0.7707
avg--matryoshka_dim-768--_dot_mrr_1 0.7707
avg--matryoshka_dim-768--_dot_map_60 0.454
avg--matryoshka_dim-512--_dot_accuracy_1 0.7567
avg--matryoshka_dim-512--_dot_precision_1 0.7567
avg--matryoshka_dim-512--_dot_recall_1 0.0838
avg--matryoshka_dim-512--_dot_ndcg_1 0.7567
avg--matryoshka_dim-512--_dot_mrr_1 0.7567
avg--matryoshka_dim-512--_dot_map_60 0.4469
avg--matryoshka_dim-256--_dot_accuracy_1 0.754
avg--matryoshka_dim-256--_dot_precision_1 0.754
avg--matryoshka_dim-256--_dot_recall_1 0.0809
avg--matryoshka_dim-256--_dot_ndcg_1 0.754
avg--matryoshka_dim-256--_dot_mrr_1 0.754
avg--matryoshka_dim-256--_dot_map_60 0.4326
avg--matryoshka_dim-128--_dot_accuracy_1 0.7101
avg--matryoshka_dim-128--_dot_precision_1 0.7101
avg--matryoshka_dim-128--_dot_recall_1 0.0754
avg--matryoshka_dim-128--_dot_ndcg_1 0.7101
avg--matryoshka_dim-128--_dot_mrr_1 0.7101
avg--matryoshka_dim-128--_dot_map_60 0.3953

Training Details

Training Dataset

core

  • Dataset: core
  • Size: 1,752,942 training samples
  • Columns: query and text
  • Approximate statistics based on the first 1000 samples:
    query text
    type string string
    details
    • min: 7 tokens
    • mean: 11.43 tokens
    • max: 44 tokens
    • min: 12 tokens
    • mean: 235.03 tokens
    • max: 512 tokens
  • Samples:
    query text
    query: samsung galaxy а 32 passage: Мобільний телефон Samsung Galaxy A32 4/128 GB Lavender Мобільні телефони Samsung Гарантія 12 місяців Кількість мегапікселів основної камери 64 Мп + 8 Мп + 5 Мп + 5 Мп Операційна система Android Колір Lavenda Навігація ГЛОНАСС Навігація BDS Навігація GPS Навігація A-GPS Кількість SIM-карток 2 Частота процесора 2.0 ГГц + 1.8 ГГц Габарити B Дрібний (до 50x150x200 мм) Максимальний обсяг підтримуваної карти пам'яті 1 ТБ Роз'єми USB Type-C Роз'єми 3.5 мм (mini-Jack) Діагональ екрана 6.4 Роздільна здатність дисплея 2400 x 1080 Кількість ядер 2+6 Формат SIM-картки Nano-SIM Тип матриці Super AMOLED Оперативна пам'ять 4 ГБ Вбудована пам'ять 128 ГБ Кількість мегапікселів фронтальної камери 20 Мп Ємність акумулятора 5000 мА·год Формат підтримуваних карт пам'яті MicroSD Кількість вантажних місць 1 Тип ядра Cortex-A75 (64bit) + Cortex-A55 (64bit) Матеріал корпусу Пластик Відеоядро ARM Mali-G52 MC2 Стандарт зв'язку 2G (GPRS/EDGE) Стандарт зв'язку 4G (LTE) Стандарт зв'язку 3G (WCDMA/UMTS/HSPA...
    query: samsung galaxy а 32 passage: Мобильный телефон Samsung Galaxy A32 4/128GB Lavender Мобильные телефоны Samsung Гарантия 12 месяцев Количество мегапикселей основной камеры 64 Мп + 8 Мп + 5 Мп + 5 Мп Операционная система Android Цвет Lavenda Навигация ГЛОНАСС Навигация BDS Навигация GPS Навигация A-GPS Количество SIM-карт 2 Частота процессора 2.0 ГГц + 1.8 ГГц Габариты_old B Мелкий (до 50x150x200 мм) Максимальный объем поддерживаемой карты памяти 1 ТБ Разъемы USB Type-C Разъемы 3.5 мм (mini-Jack) Диагональ экрана 6.4 Разрешение дисплея 2400 x 1080 Количество ядер 2+6 Формат SIM-карты Nano-SIM Тип матрицы Super AMOLED Оперативная память 4 ГБ Встроенная память 128 ГБ Количество мегапикселей фронтальной камеры 20 Мп Емкость аккумулятора 5000 мА*ч Формат поддерживаемых карт памяти MicroSD Количество грузовых мест 1 Тип ядра Cortex-A75 (64bit) + Cortex-A55 (64bit) Материал корпуса Пластик Видеоядро ARM Mali-G52 MC2 Стандарт связи 2G (GPRS/EDGE) Стандарт связи 4G (LTE) Стандарт связи 3G (WCDMA/UMTS/HSPA) Страна ре...
    query: чехол самсунг а 32 passage: Шкіряна накладка Stenk Reptile Cover для Samsung Galaxy A32 Чорна (70194) Чохли для мобільних телефонів Stenk Гарантія 3 місяці Матеріал Шкіра + пластик Колір Black Форм-фактор Бампер Країна-виробник товару Україна
  • Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:
    {
        "loss": "RZTKMultipleNegativesRankingLoss",
        "n_layers_per_step": 1,
        "last_layer_weight": 1.0,
        "prior_layers_weight": 1.0,
        "kl_div_weight": 1.0,
        "kl_temperature": 0.3,
        "matryoshka_dims": [
            768,
            512,
            256,
            128
        ],
        "matryoshka_weights": [
            1,
            1,
            1,
            1
        ],
        "n_dims_per_step": 1
    }
    

Evaluation Datasets

core_uk

  • Dataset: core_uk
  • Size: 3,220 evaluation samples
  • Columns: query and text
  • Approximate statistics based on the first 1000 samples:
    query text
    type string string
    details
    • min: 8 tokens
    • mean: 10.66 tokens
    • max: 16 tokens
    • min: 19 tokens
    • mean: 114.2 tokens
    • max: 512 tokens
  • Samples:
    query text
    query: лампочка е27 passage: Світлодіодна лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампи OSRAM Гарантія 36 місяців Виробник світлодіодів Osram Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів RGB (різнокольоровий) Колір світіння / Температура кольорів Теплий білий Світловий потік 806 Лм Еквівалент потужності лампи розжарювання 60 Вт Робоча напруга, в 230 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Матовий Кількість вантажних місць 1 Країна реєстрації бренда Німеччина Кількість предметів, шт 1 Країна-виробник товару Китай Особливості З дистанційним управлінням Особливості З регулюванням яскравості (димер) Строк служби лампи, год 25000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 9 Можливість доставки Почтомати Доставка Premium Доставка Доставка в магазини ROZETKA
    query: лампочка е27 passage: Світлодіодна лампа Philips Ecohome LED Bulb 11 W E27 3000 K 1PF/20RCA (929002299567R) 2 шт. Лампи Philips Гарантія 24 місяці Тип цоколя E27 Колір світіння / Температура кольорів Теплий Світловий потік 1150 Лм Еквівалент потужності лампи розжарювання 95 Вт Робоча напруга, в 170-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Білий Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Кількість предметів, шт 2 Країна-виробник товару Китай Строк служби лампи, год теги лампи недорого Тип гарантійного талона Гарантійний талон магазина Потужність, Вт 11 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 3000 К Матеріал колби Пластик Доставка Premium Доставка Доставка в магазини ROZETKA
    query: лампочка е27 passage: Набір світлодіодних ламп Евросвет 12 W 4200 K Е27 (56702) 4 шт. Лампи Євросвітло Гарантія 12 місяців Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Нейтральний-білий Світловий потік 1200 Лм Еквівалент потужності лампи розжарювання 120 Вт Робоча напруга, в 220-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Кількість вантажних місць 1 Країна реєстрації бренда Україна Кількість предметів, шт 4 Країна-виробник товару Китай Строк служби лампи, год 15000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 12 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 4200К Матеріал колби Пластик Доставка Готовий до відправлення Доставка Доставка в магазини ROZETKA
  • Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:
    {
        "loss": "RZTKMultipleNegativesRankingLoss",
        "n_layers_per_step": 1,
        "last_layer_weight": 1.0,
        "prior_layers_weight": 1.0,
        "kl_div_weight": 1.0,
        "kl_temperature": 0.3,
        "matryoshka_dims": [
            768,
            512,
            256,
            128
        ],
        "matryoshka_weights": [
            1,
            1,
            1,
            1
        ],
        "n_dims_per_step": 1
    }
    

core_ru

  • Dataset: core_ru
  • Size: 3,220 evaluation samples
  • Columns: query and text
  • Approximate statistics based on the first 1000 samples:
    query text
    type string string
    details
    • min: 8 tokens
    • mean: 10.66 tokens
    • max: 16 tokens
    • min: 18 tokens
    • mean: 109.38 tokens
    • max: 512 tokens
  • Samples:
    query text
    query: лампочка е27 passage: Светодиодная лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампы OSRAM Гарантия 36 месяцев Производитель светодиодов Osram Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура RGB (разноцветный) Цвет свечения / Цветовая температура Теплый белый Световой поток 806 Лм Эквивалент мощности лампы накаливания 60 Вт Рабочее напряжение, В 230 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Матовый Количество грузовых мест 1 Страна регистрации бренда Германия Количество предметов, шт 1 Страна-производитель товара Китай Особенности С дистанционным управлением Особенности С регулировкой яркости (диммер) Срок службы лампы, ч 25000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 9 Возможность доставки Почтоматы Доставка Premium Доставка Доставка в магазины ROZETKA
    query: лампочка е27 passage: Светодиодная лампа Philips Ecohome LED Bulb 11W E27 3000К 1PF/20RCA (929002299567R) 2 шт. Лампы Philips Гарантия 24 месяца Тип цоколя E27 Цвет свечения / Цветовая температура Теплый Световой поток 1150 Лм Эквивалент мощности лампы накаливания 95 Вт Рабочее напряжение, В 170-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Белый Количество грузовых мест 1 Страна регистрации бренда Нидерланды Количество предметов, шт 2 Страна-производитель товара Китай Срок службы лампы, ч 6000 теги лампы недорого Тип гарантийного талона Гарантийный талон магазина Мощность, Вт 11 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 3000К Материал колбы Пластик Доставка Premium Доставка Доставка в магазины ROZETKA
    query: лампочка е27 passage: Набор светодиодных ламп ЕВРОСВЕТ 12W 4200к Е27 (56702) 4 шт Лампы Євросвітло Гарантия 12 месяцев Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Нейтральный-белый Световой поток 1200 Лм Эквивалент мощности лампы накаливания 120 Вт Рабочее напряжение, В 220-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Количество грузовых мест 1 Страна регистрации бренда Украина Количество предметов, шт 4 Страна-производитель товара Китай Срок службы лампы, ч 15000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 12 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 4200К Материал колбы Пластик Доставка Готов к отправке Доставка Доставка в магазины ROZETKA
  • Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:
    {
        "loss": "RZTKMultipleNegativesRankingLoss",
        "n_layers_per_step": 1,
        "last_layer_weight": 1.0,
        "prior_layers_weight": 1.0,
        "kl_div_weight": 1.0,
        "kl_temperature": 0.3,
        "matryoshka_dims": [
            768,
            512,
            256,
            128
        ],
        "matryoshka_weights": [
            1,
            1,
            1,
            1
        ],
        "n_dims_per_step": 1
    }
    

vespa_uk

  • Dataset: vespa_uk
  • Size: 5,315 evaluation samples
  • Columns: query and text
  • Approximate statistics based on the first 1000 samples:
    query text
    type string string
    details
    • min: 7 tokens
    • mean: 9.58 tokens
    • max: 22 tokens
    • min: 19 tokens
    • mean: 89.9 tokens
    • max: 239 tokens
  • Samples:
    query text
    query: шланга диаметром 32 мм для викачки брудної води з басейну passage: Перехідники для шлангу басейну Intex з 32 мм на 38 мм (IP-175136) Обладнання для басейнів Intex Вид Комплектувальні
    query: шланга диаметром 32 мм для викачки брудної води з басейну passage: З'єднання для шланга Peraqua діаметр 32 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів
    query: шланга диаметром 32 мм для викачки брудної води з басейну passage: З'єднання для шлангу Peraqua діаметр 32/38 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів
  • Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:
    {
        "loss": "RZTKMultipleNegativesRankingLoss",
        "n_layers_per_step": 1,
        "last_layer_weight": 1.0,
        "prior_layers_weight": 1.0,
        "kl_div_weight": 1.0,
        "kl_temperature": 0.3,
        "matryoshka_dims": [
            768,
            512,
            256,
            128
        ],
        "matryoshka_weights": [
            1,
            1,
            1,
            1
        ],
        "n_dims_per_step": 1
    }
    

vespa_ru

  • Dataset: vespa_ru
  • Size: 5,315 evaluation samples
  • Columns: query and text
  • Approximate statistics based on the first 1000 samples:
    query text
    type string string
    details
    • min: 7 tokens
    • mean: 9.58 tokens
    • max: 22 tokens
    • min: 20 tokens
    • mean: 87.33 tokens
    • max: 232 tokens
  • Samples:
    query text
    query: шланга диаметром 32 мм для викачки брудної води з басейну passage: Переходники для шланга бассейна Intex с 32 мм на 38 мм (IP-175136) Оборудование для бассейнов Intex Вид Комплектующие
    query: шланга диаметром 32 мм для викачки брудної води з басейну passage: Соединение для шланга Peraqua диаметр 32 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов
    query: шланга диаметром 32 мм для викачки брудної води з басейну passage: Соединение для шланга Peraqua диаметр 32/38 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов
  • Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss with these parameters:
    {
        "loss": "RZTKMultipleNegativesRankingLoss",
        "n_layers_per_step": 1,
        "last_layer_weight": 1.0,
        "prior_layers_weight": 1.0,
        "kl_div_weight": 1.0,
        "kl_temperature": 0.3,
        "matryoshka_dims": [
            768,
            512,
            256,
            128
        ],
        "matryoshka_weights": [
            1,
            1,
            1,
            1
        ],
        "n_dims_per_step": 1
    }
    

Training Hyperparameters

Non-Default Hyperparameters

  • eval_strategy: steps
  • per_device_train_batch_size: 80
  • per_device_eval_batch_size: 16
  • learning_rate: 2e-05
  • warmup_ratio: 0.1
  • bf16: True
  • bf16_full_eval: True
  • tf32: True
  • dataloader_num_workers: 4
  • load_best_model_at_end: True
  • optim: adafactor
  • push_to_hub: True
  • hub_model_id: yklymchuk-rztk/me5-master-jina-mnr-4-smartphones-laptopes-bge-double-filter-categories-finetune
  • hub_private_repo: True
  • prompts: {'query': 'query: ', 'text': 'passage: '}
  • batch_sampler: no_duplicates

All Hyperparameters

Click to expand
  • overwrite_output_dir: False
  • do_predict: False
  • eval_strategy: steps
  • prediction_loss_only: True
  • per_device_train_batch_size: 80
  • per_device_eval_batch_size: 16
  • per_gpu_train_batch_size: None
  • per_gpu_eval_batch_size: None
  • gradient_accumulation_steps: 1
  • eval_accumulation_steps: None
  • torch_empty_cache_steps: None
  • learning_rate: 2e-05
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • max_grad_norm: 1.0
  • num_train_epochs: 3
  • max_steps: -1
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: {}
  • warmup_ratio: 0.1
  • warmup_steps: 0
  • log_level: passive
  • log_level_replica: warning
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • save_safetensors: True
  • save_on_each_node: False
  • save_only_model: False
  • restore_callback_states_from_checkpoint: False
  • no_cuda: False
  • use_cpu: False
  • use_mps_device: False
  • seed: 42
  • data_seed: None
  • jit_mode_eval: False
  • use_ipex: False
  • bf16: True
  • fp16: False
  • fp16_opt_level: O1
  • half_precision_backend: auto
  • bf16_full_eval: True
  • fp16_full_eval: False
  • tf32: True
  • local_rank: 0
  • ddp_backend: None
  • tpu_num_cores: None
  • tpu_metrics_debug: False
  • debug: []
  • dataloader_drop_last: True
  • dataloader_num_workers: 4
  • dataloader_prefetch_factor: None
  • past_index: -1
  • disable_tqdm: False
  • remove_unused_columns: True
  • label_names: None
  • load_best_model_at_end: True
  • ignore_data_skip: False
  • fsdp: []
  • fsdp_min_num_params: 0
  • fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
  • fsdp_transformer_layer_cls_to_wrap: None
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • deepspeed: None
  • label_smoothing_factor: 0.0
  • optim: adafactor
  • optim_args: None
  • adafactor: False
  • group_by_length: False
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • skip_memory_metrics: True
  • use_legacy_prediction_loop: False
  • push_to_hub: True
  • resume_from_checkpoint: None
  • hub_model_id: yklymchuk-rztk/me5-master-jina-mnr-4-smartphones-laptopes-bge-double-filter-categories-finetune
  • hub_strategy: every_save
  • hub_private_repo: True
  • hub_always_push: False
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • include_inputs_for_metrics: False
  • include_for_metrics: []
  • eval_do_concat_batches: True
  • fp16_backend: auto
  • push_to_hub_model_id: None
  • push_to_hub_organization: None
  • mp_parameters:
  • auto_find_batch_size: False
  • full_determinism: False
  • torchdynamo: None
  • ray_scope: last
  • ddp_timeout: 1800
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • dispatch_batches: None
  • split_batches: None
  • include_tokens_per_second: False
  • include_num_input_tokens_seen: False
  • neftune_noise_alpha: None
  • optim_target_modules: None
  • batch_eval_metrics: False
  • eval_on_start: False
  • use_liger_kernel: False
  • eval_use_gather_object: False
  • average_tokens_across_devices: False
  • prompts: {'query': 'query: ', 'text': 'passage: '}
  • batch_sampler: no_duplicates
  • multi_dataset_batch_sampler: proportional
  • ddp_static_graph: False
  • ddp_comm_hook: bf16
  • gradient_as_bucket_view: False
  • num_proc: 30

Training Logs

Click to expand
Epoch Step Training Loss core uk loss core ru loss vespa uk loss vespa ru loss core-uk--matryoshka_dim-768--_dot_ndcg_10 core-ru--matryoshka_dim-768--_dot_ndcg_10 vespa-uk--matryoshka_dim-768--_dot_ndcg_10 vespa-ru--matryoshka_dim-768--_dot_ndcg_10 core-uk_dot_ndcg_10 core-ru_dot_ndcg_10 vespa-uk_dot_ndcg_10 vespa-ru_dot_ndcg_10 core-uk--matryoshka_dim-768--_dot_ndcg_1 core-ru--matryoshka_dim-768--_dot_ndcg_1 vespa-uk--matryoshka_dim-768--_dot_ndcg_1 vespa-ru--matryoshka_dim-768--_dot_ndcg_1 core-uk--matryoshka_dim-512--_dot_ndcg_1 core-ru--matryoshka_dim-512--_dot_ndcg_1 vespa-uk--matryoshka_dim-512--_dot_ndcg_1 vespa-ru--matryoshka_dim-512--_dot_ndcg_1 core-uk--matryoshka_dim-256--_dot_ndcg_1 core-ru--matryoshka_dim-256--_dot_ndcg_1 vespa-uk--matryoshka_dim-256--_dot_ndcg_1 vespa-ru--matryoshka_dim-256--_dot_ndcg_1 core-uk--matryoshka_dim-128--_dot_ndcg_1 core-ru--matryoshka_dim-128--_dot_ndcg_1 vespa-uk--matryoshka_dim-128--_dot_ndcg_1 vespa-ru--matryoshka_dim-128--_dot_ndcg_1
0.0152 83 1.9717 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.0303 166 1.7126 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.0455 249 1.755 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.0606 332 1.798 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.0758 415 1.8593 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.0909 498 1.6617 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.1061 581 1.6598 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.1212 664 1.6452 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.1364 747 1.5921 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.1515 830 2.4818 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.1667 913 2.5942 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.1819 996 2.1562 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.1970 1079 2.3523 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.2122 1162 2.2889 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.2273 1245 2.4744 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.2425 1328 2.4112 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.2576 1411 2.2898 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.2728 1494 2.2108 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.2879 1577 2.0789 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.3002 1644 - 0.6350 0.6674 0.5182 0.5285 0.5648 0.5634 0.7074 0.6879 - - - - - - - - - - - - - - - - - - - -
0.3031 1660 2.317 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.3182 1743 2.0496 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.3334 1826 2.1563 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.3485 1909 2.1133 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.3637 1992 2.1137 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.3789 2075 1.9276 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.3940 2158 1.959 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.4092 2241 2.0583 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.4243 2324 2.0067 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.4395 2407 1.9749 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.4546 2490 1.7999 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.4698 2573 1.7588 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.4849 2656 2.0124 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.5001 2739 1.6576 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.5152 2822 1.5909 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.5304 2905 1.6352 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.5456 2988 1.9208 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.5607 3071 1.5919 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.5759 3154 1.3935 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.5910 3237 1.4586 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.6003 3288 - 0.5969 0.5801 0.5281 0.5303 0.5592 0.5554 0.7074 0.6849 - - - - - - - - - - - - - - - - - - - -
0.6062 3320 2.132 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.6213 3403 1.2004 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.6365 3486 1.1633 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.6516 3569 1.6754 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.6668 3652 1.5879 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.6819 3735 0.9335 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.6971 3818 0.8831 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.7123 3901 2.0368 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.7274 3984 0.85 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.7426 4067 0.7483 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.7577 4150 1.3231 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.7729 4233 0.7253 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.7880 4316 0.5664 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.8032 4399 1.4933 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.8183 4482 2.2463 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.8335 4565 2.1059 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.8486 4648 2.2368 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.8638 4731 2.3637 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.8789 4814 1.9438 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.8941 4897 1.8002 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.9005 4932 - 0.6358 0.6227 0.4809 0.4648 0.5504 0.5485 0.7075 0.6907 - - - - - - - - - - - - - - - - - - - -
0.9093 4980 2.0175 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.9244 5063 2.0125 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.9396 5146 1.7929 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.9547 5229 2.0487 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.9699 5312 1.9381 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
0.9850 5395 1.7754 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.0002 5478 2.0011 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.0153 5561 1.8258 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.0305 5644 1.7225 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.0456 5727 1.7561 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.0608 5810 1.7367 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.0760 5893 1.7034 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.0911 5976 1.6181 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.1063 6059 1.6983 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.1214 6142 1.6156 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.1366 6225 1.5193 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.1517 6308 2.271 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.1669 6391 2.5712 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.1820 6474 2.2124 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.1972 6557 2.327 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.2007 6576 - 0.6060 0.5784 0.5314 0.5088 0.5646 0.5612 0.7011 0.6774 - - - - - - - - - - - - - - - - - - - -
1.2123 6640 2.3232 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.2275 6723 2.5589 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.2427 6806 2.3623 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.2578 6889 2.3405 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.2730 6972 2.2339 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.2881 7055 2.1777 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.3033 7138 2.1671 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.3184 7221 2.0253 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.3336 7304 1.9954 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.3487 7387 2.2824 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.3639 7470 1.9576 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.3790 7553 1.8513 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.3942 7636 1.8383 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.4093 7719 2.0002 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.4245 7802 1.9038 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.4397 7885 1.8546 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.4548 7968 1.8171 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.4700 8051 1.8667 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.4851 8134 1.8618 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.5003 8217 1.6311 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.5008 8220 - 0.6134 0.6019 0.4875 0.4732 0.5572 0.5578 0.7037 0.6805 - - - - - - - - - - - - - - - - - - - -
1.5154 8300 1.5228 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.5306 8383 1.5433 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.5457 8466 1.7734 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.5609 8549 1.5164 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.5760 8632 1.4087 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.5912 8715 1.3937 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.6064 8798 2.1603 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.6215 8881 1.1762 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.6367 8964 1.011 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.6518 9047 1.6034 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.6670 9130 1.5077 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.6821 9213 0.9858 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.6973 9296 0.7638 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.7124 9379 2.0323 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.7276 9462 0.9758 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.7427 9545 0.732 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.7579 9628 1.3503 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.7731 9711 0.5858 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.7882 9794 0.6354 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.8010 9864 - 0.5795 0.6111 0.4886 0.5445 0.5494 0.5498 0.7056 0.6810 - - - - - - - - - - - - - - - - - - - -
1.8034 9877 1.4571 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.8185 9960 2.2668 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.8337 10043 1.8585 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.8488 10126 2.3573 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.8640 10209 2.2904 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.8791 10292 1.9395 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.8943 10375 1.7804 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.9094 10458 2.0299 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.9246 10541 2.0481 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.9397 10624 1.7897 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.9549 10707 2.0289 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.9701 10790 1.809 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.9852 10873 1.7657 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.0004 10956 1.8002 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.0155 11039 1.8429 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.0307 11122 1.6902 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.0458 11205 1.7122 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.0610 11288 1.6638 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.0761 11371 1.6673 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.0913 11454 1.5907 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.1012 11508 - 0.5412 0.5976 0.4928 0.5767 0.5628 0.5605 0.6903 0.6697 - - - - - - - - - - - - - - - - - - - -
2.1064 11537 1.6179 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.1216 11620 1.5311 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.1368 11703 1.5501 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.1519 11786 2.223 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.1671 11869 2.5806 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.1822 11952 2.1639 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.1974 12035 2.2657 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.2125 12118 2.2529 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.2277 12201 2.4816 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.2428 12284 2.1868 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.2580 12367 2.3095 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.2731 12450 2.2687 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.2883 12533 2.1567 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.3035 12616 2.2104 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.3186 12699 2.0633 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.3338 12782 2.1052 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.3489 12865 2.1228 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.3641 12948 1.8835 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.3792 13031 1.8923 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.3944 13114 1.7721 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.4013 13152 - 0.6082 0.6174 0.4846 0.5398 0.5618 0.5602 0.6941 0.6754 - - - - - - - - - - - - - - - - - - - -
2.4095 13197 1.7613 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.4247 13280 1.8112 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.4398 13363 1.7723 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.4550 13446 1.6742 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.4701 13529 1.8809 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.4853 13612 1.8723 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.5005 13695 1.5545 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.5156 13778 1.4662 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.5308 13861 1.5167 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.5459 13944 1.7781 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.5611 14027 1.5195 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.5762 14110 1.4156 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.5914 14193 1.3849 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.6065 14276 2.0345 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.6217 14359 1.1391 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.6368 14442 1.0757 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.6520 14525 1.6277 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.6672 14608 1.4964 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.6823 14691 0.8841 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.6975 14774 0.8304 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.7015 14796 - 0.5443 0.5625 0.4400 0.4919 0.5564 0.5564 0.6986 0.6755 - - - - - - - - - - - - - - - - - - - -
2.7126 14857 2.1206 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.7278 14940 0.8281 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.7429 15023 0.7141 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.7581 15106 1.3642 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.7732 15189 0.6101 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.7884 15272 0.5247 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.8035 15355 1.428 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.8187 15438 2.2024 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.8339 15521 2.0611 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.8490 15604 2.3631 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.8642 15687 2.0951 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.8793 15770 1.7648 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.8945 15853 1.753 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.9096 15936 1.8898 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.9248 16019 2.0011 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.9399 16102 1.7773 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.9551 16185 2.0154 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.9702 16268 1.7706 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
2.9854 16351 1.7813 - - - - - - - - - - - - - - - - - - - - - - - - - - - -
3.0 16431 - - - - - - - - - 0.5636 0.5606 0.6901 0.6705 0.7874 0.7953 0.7717 0.7283 0.7743 0.7743 0.75 0.7283 0.7454 0.7598 0.7935 0.7174 0.6982 0.7073 0.7391 0.6957
  • The bold row denotes the saved checkpoint.

Framework Versions

  • Python: 3.11.10
  • Sentence Transformers: 3.3.0
  • Transformers: 4.46.3
  • PyTorch: 2.5.1+cu124
  • Accelerate: 1.1.1
  • Datasets: 3.1.0
  • Tokenizers: 0.20.3

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}
Downloads last month
8
Safetensors
Model size
278M params
Tensor type
BF16
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for yklymchuk-rztk/me5-master-jina-mnr-4-smartphones-laptopes-bge-double-filter-categories-finetune

Evaluation results