Add new SentenceTransformer model

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+  "word_embedding_dimension": 768,
+  "pooling_mode_cls_token": false,
+  "pooling_mode_mean_tokens": true,
+  "pooling_mode_max_tokens": false,
+  "pooling_mode_mean_sqrt_len_tokens": false,
+  "pooling_mode_weightedmean_tokens": false,
+  "pooling_mode_lasttoken": false,
+  "include_prompt": true
+}

README.md

@@ -0,0 +1,493 @@
+---
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- generated_from_trainer
+- dataset_size:23589
+- loss:CosineSimilarityLoss
+- dataset_size:10128
+- dataset_size:13476
+base_model: omarelshehy/Arabic-Retrieval-v1.0
+widget:
+- source_sentence: متى تم اغتيال شكري بالعيد؟
+  sentences:
+  - كان إنريكو فيرمي أول من قام بتصويب النيوترونات على اليورانيوم عام 1934 ولكنه لم
+    ينجح في تفسير النتائج. وقام العالم الكيميائي الألماني أوتو هان وزميلته ليز مايتنر
+    وزميلهما فريتز شتراسمان بتلك الأبحاث وقاموا بتحليل المواد الناتجة عن التفاعل.
+    وكانت مفاجأة لم يستطيعوا تفسيرها أولاً، إذ أنهم وجدوا عناصر جديدة تكونت من خلال
+    التفاعل. وكان أن أعادوا التجربة باستخدام يورانيوم عالي النقاء، فكانت النتيجة هي
+    ما وجدوه من قبل وتكوّن عنصر الباريوم. والعدد الذري للباريوم نصف العدد الذري لليورانيوم
+    تقريباً. كان ذلك عام 1938 وبعدها بدأت الحرب العالمية الثانية واضطرت ليزا مايتنر
+    إلى مغادرة ألمانيا نظراً لاضطهاد النازية لليهود. وسافرت ليزا إلى السويد حيث كان
+    أحد أقربائها يعمل هناك وهو روبرت فريتش. وقصت عليه نتائج تجربة اليورانيوم.
+  - ولاية سيدي بوزيد هي إحدى ولايات الجمهورية التونسية الـ24 من سنة1973, مساحتها 6994
+    كم مربع. وبلغ عدد سكان الولاية 912 429 ساكن حسب إحصائيات رسمية لسنة 2014[1], بها
+    12 معتمدية أكبرها سيدي بوزيد الغربية وسيدي بوزيد الشرقية والمكناسي والرقاب وجلمة
+    والمزونة، هي ولاية فلاحية من أهم إنتاجها الخضر وزيت الزيتون. مركز الولاية مدينة
+    سيدي بوزيد.
+  - في ديسمبر 1800 أعلن جورج أوستن على غير توقع قرار تقاعده من عمله ككاهن، وغادر ستيفنتون
+    وانتقل بالعائلة إلى باث. على الرغم من أن قرار التقاعد والسفر جيدًا للأشقاء الكبار،
+    صدمت جين لمعرفتها أنها ستغادر المنزل الوحيد الذي طالما عرفته.[53] عدم قدرتها على
+    الإنتاج كان دلالة على ارتباك عقلها عندما عاشت في باث. قامت ببعض المراجعات لرواية
+    "سوزان"، وبدأت ثم ترطت رواية جديدة تدعى "آل واتسون" ، لكن لم يكن هناك ما يضاهي
+    الإنتاج المثمر ما بين 1795 و1799.[54] اقترحت تومالين أن ذلك يعكس اكتئابًا عميقًا
+    يعجزها ككاتبة. عارضها هونان وقال أن أوستن كتبت أو راجعت كتاباتها الخام طوال حياتها
+    ماعدا بضعة أشهر عقب وفاة والدها.[55]
+- source_sentence: ما هو عدد ممالك إسكندنافيا؟
+  sentences:
+  - يهتم هذا العلم فعليا بدراسة الشروط الضرورية لنشأة الحياة، والآليات التي يمكن بها
+    تحول ما ليس بحي إلى حي لكن هذه الاليات لا تزال غير مؤكدة حتى الآن. ومع ذلك، توجد
+    العديد من النظريات العلمية لتفسير ظهور الحياة كما نعرفها اليوم، الذي يعتقد أنه
+    يعود تاريخها إلى حوالي 3،5 إلى 3،8 مليارات سنة.
+  - تم اغتيال الرئيس ماكينلي في سبتمبر 1901، وخلفه روزفلت إلى المنصب وهو بعمر 42 عاما،
+    ليصبح أصغر رئيس للبلاد في تاريخها. وقاد الحزب والبلاد في الحقبة التقدمية، ودافع
+    عن سياسته المحلية التي سميت "الاتفاق العادل"، واعدا بإنصاف المواطن العادي، وسحب
+    الديون، وتنظيم سكك الحديد والغذاء النقي والعقاقير. كما جعل الحفاظ على الطبيعة
+    من رأس أولوياته، وأنشأ عددا كبيرا من الحدائق الوطنية الجديدة والغابات والآثار
+    بهدف الحفاظ على الموارد الطبيعية للبلاد. ركز روزفلت في سياسته الخارجية على أمريكا
+    الوسطى، حيث بدأ بناء قناة بنما. وقام بتوسعة القوات البحرية للولايات المتحدة، وأرسل
+    الأسطول الأبيض العظيم في جولة حول العالم لإبراز القوة البحرية للولايات المتحدة
+    في جميع أنحاء العالم. كما نجح في إنهاء الحرب الروسية اليابانية، فأكسبته جهوده
+    جائزة نوبل للسلام عام 1906.
+  - ولدت آشانتي في حي جلين-كوف بولاية نيويورك بالولايات المتحدة الأمريكية، وهي أمريكية
+    من أصل أفريقي. وقد ورثت آشانتي شغفها للموسيقى من والدتها تينا دوجلاس والتي عملت
+    سابقا كمدرسة للرقص، كذلك من أبيها كين-كيد توماس دوجلاس والذي عمل سابقا كمغني.
+    ولها اخت صغرى تسمى كيناشيا.عمها، فوفو لاندفور، شغل منصب عمدة آتلانتيك سيتي بولاية
+    نيو جيرزي. وقد قامت والدة آشانتي بتسميتها بهذا الاسم تيمنا بإمبراطورية "آشانتي"
+    في التي وجدت يوما في "غانا". في تلك الإمبراطورية تمتعت النساء بالقوة والنفوذ،
+    وذلك ما تمنته الأم لابنتها.جدها، جيمس، كان ناشطا في مجال الحقوق المدنية، وساعد
+    السيد مارتن لوثر كينج خلال فترة الستينيات. وعندما كبرت آشانتي، بدأت في تلقى دروس
+    الرقص كما انضمت لجوقة الكنيسة. ذهبت آشانتي لمركز بيرنيس جونسون للفنون الثقافية،
+    حيث درست أنماط الرقص المختلفة، بما في ذلك النقر، الجاز، الباليه، الرقص الأفريقي،
+    الرقص الحديث والهيب هوب. رقصت مع فرقة برو (للكبار) بأماكن مختلفة مثل قاعة كارنيجي،
+    مسرح أبولو، أكاديمية بروكلين للموسيقى، قاعة آفري فيشر ومسرح الطيف الأسود. كما
+    قامت بالأداء أيضا في حفل الجوائز الكاريبية، ورقصت مع جوديث جاميسون من شركة آلفين
+    آيلي للرقص. وبقيادة الممثلة ومصممة الرقصات ديبي آلين، قامت آشانتي بالآداء في فيلم
+    ديزني التلفزيوني "بولي" Polly, بجانب نجوم كبار مثل كيشيا نايت بوليام وفيليشيا
+    رشاد.
+- source_sentence: ما هي الحركة الصهيونية؟
+  sentences:
+  - كانت هذه الحروب الأهلية قد أنهكت اليثربيين أوسهم وخزرجهم , وبعد يوم بعاث قرر عقلاء
+    الطرفين وضع حد لهذه الحال فاتفقوا على تنصيب رجل واحد منهم يقبله الطرفان فوقع الاختيار
+    على عبد الله بن أبي بن سلول , وفيما كانا يُجهزان له ملكه حدثت بيعة العقبة الأولى
+    والثانية ودخل الإسلام يثرب ثم هاجر إليها النبي , فزال مُلك ابن أبي قبل أن يهنأ
+    به ولو ليوم واحد فعاش عبدالله بن أُبي تحت سيادة النبي كأكبر منافق ومعادٍ للنبي
+    عرفه التاريخ الإسلامي , والسبب في هذا واضحٌ فهو كان يرى أن النبي قد انتزعه ملكه
+    الذي كان يُجهز له . وكان يوم بعاث نهاية لحروب يثرب بين الأوس والخزرج حيث أنهم
+    اصطلحوا على ايقاف الحرب ثم دخلوا في الإسلام جميعاً وأصبحت سيوفهم تُسل على عدو
+    واحد دفاعاً عن عقيدتهم .
+  - شريف كواشي (1982-2015) وهو أحد المنفذين لحادثة الهجوم على صحيفة شارلي إبدو في
+    7 يناير 2015 رفقة شقيقه الأكبر سعيد كواشي.
+  - أهم الأنهار التي تصب في البحر الأسود هو نهر الدانوب في الشمال الغربي و نهر الدنيستر
+    و الدنييبر في الشمال و نهر الكوبان في الشرق و نهر سقاريا في الجنوب و لا يوجد فيه
+    سوى ثلاث جزر صغيرة مهمة مميزة و هي زميني و بيرتيران و كفكن . مساحة المسطح المائي
+    للبحر الأسود تزيد عن 420 ألف كم مربع وأقصى عمق له 2210 م و أقصر عرض له يقع فيما
+    بين رأس سارتيش في شبه جزيرة القرم شمالا و رأس سارتيش جنوبا و لا يزيد على 263 كم
+    .
+- source_sentence: ما هي كونشيرتو دي آرانخويث؟
+  sentences:
+  - زلزال سيتشوان 2008 هو زلزال حدث في مقاطعة سيشوان جنوب غرب جمهورية الصين الشعبية
+    في 12 مايو 2008 بالتوقيت المحلي 14:28:04، 06:28:04 غرينيتش. حسب نشرة للمسح الجيولوجي
+    الأمريكي أن شدة الزلزال بلغت 7.8 حسب مقياس ريختر.[1]. شعر بالزلزال سكان بكين،
+    شانغهاي، بانكوك، هونغ كونغ، هانوي، وتايبيه.[2]
+  - 'البصمة الوراثية أو الطبعة الوراثية أو بصمة الحمض النووي هي أحد وسائل التعرف على
+    الشخص عن طريق مقارنة مقاطع من الحمض النووي الريبوزي منقوص الأكسجين.[1][2][3] وتعتبر
+    البصمة الوراثية أهم تقدم للبشرية ضمن مجال البحث الجنائي من أجل محاربة الجريمة.
+    إن كل ما يحتاج إليه المحققون لتحديد البصمة الوراثية هو العثور على دليل بشري في
+    مكان الجريمة، مثل: قطرات العرق، السائل المنوي، الشعر، واللعاب. فكل ما يلمس المرء،
+    ومهما بلغت بساطة اللمسة، سيترك أثراً لبصمة وراثية فريدة.'
+  - حَقلُ الغَوَّار هو حقل نفط يقع بمحافظة الأحساء، بالمنطقة الشرقية، في السعودية[1].
+    يبلغ اتساعه 280 في 30 كلم، وهو أكبر حقل نفط معروف في العالم[1]، وهو السبب في أكثر
+    من نصف إنتاج نصف كمية البترول التراكمية في السعودية. تمتلك أرامكو السعودية حقل
+    الغوّار وتديره بالكامل، هناك معلومات قليلة نسبياً عن الحقل، بسبب تحفظ الحكومة
+    السعودية على بيانات الأداء والإنتاج، ولكن تتوفر عنه بعض المعلومات السابقة أثناء
+    الدولة السعودية الثالثة من المنشورات الطارئة أو القولية[1].
+- source_sentence: متى ولد زين الدين زيدان ؟
+  sentences:
+  - الدرفلة هي عملية صناعية تعتبر إحدى طرق تشكيل المعادن. وتعتمد فكرتها على تمرير
+    المعدن على البارد أو الساخن عبر أجسام أسطوانية ثقيلة وذات صلادة عالية (تسمى الدرافيل)
+    وذلك بهدف تقليل سمك الصفائح أو قطر القضبان.[1][2]
+  - والرئيس الحالي للبرتغال هو مارسيلو ريبيلو دي سوزا، الذي تولى منصبه في 9 مارس 2016.
+  - هو أبو عبد الله حمود عقلا الشعيبي (ولد عام 1346هـ - توفي عام 1422 هـ) اسمه بالكامل
+    حمود بن عبد الله بن عقلاء بن محمد بن علي بن عقلاء الشعيبي الخالدي من آل جناح من
+    بني خالد ولد في بلدة الشقة من أعمال القصيم، نشأ في بيت دين وكرم فلما كان عمره
+    ست سنوات التحق بالكتّاب فتعلم القراءة والكتابة والحساب، وفي عام 1352 هـ أصيب الشعيبي
+    بمرض الجدري مما أدى إلى فقده بصره، وقد حرص عليه والده منذ نعومة أظفاره وكان والده
+    عبد الله صاحب زراعة وفلاحة فتعلم الشعيبي منه مع فقده لبصره الزراعة والسقي وغيرها.
+pipeline_tag: sentence-similarity
+library_name: sentence-transformers
+---
+
+# SentenceTransformer based on omarelshehy/Arabic-Retrieval-v1.0
+
+This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [omarelshehy/Arabic-Retrieval-v1.0](https://huggingface.co/omarelshehy/Arabic-Retrieval-v1.0). It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+- **Base model:** [omarelshehy/Arabic-Retrieval-v1.0](https://huggingface.co/omarelshehy/Arabic-Retrieval-v1.0) <!-- at revision 899f6e1b765915a72d5e4ace6bb2b221715550d8 -->
+- **Maximum Sequence Length:** 512 tokens
+- **Output Dimensionality:** 768 dimensions
+- **Similarity Function:** Cosine Similarity
+<!-- - **Training Dataset:** Unknown -->
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel 
+  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("yoriis/BGE-M3-QUQA-cosine")
+# Run inference
+sentences = [
+    'متى ولد زين الدين زيدان ؟',
+    'الدرفلة هي عملية صناعية تعتبر إحدى طرق تشكيل المعادن. وتعتمد فكرتها على تمرير المعدن على البارد أو الساخن عبر أجسام أسطوانية ثقيلة وذات صلادة عالية (تسمى الدرافيل) وذلك بهدف تقليل سمك الصفائح أو قطر القضبان.[1][2]',
+    'هو أبو عبد الله حمود عقلا الشعيبي (ولد عام 1346هـ - توفي عام 1422 هـ) اسمه بالكامل حمود بن عبد الله بن عقلاء بن محمد بن علي بن عقلاء الشعيبي الخالدي من آل جناح من بني خالد ولد في بلدة الشقة من أعمال القصيم، نشأ في بيت دين وكرم فلما كان عمره ست سنوات التحق بالكتّاب فتعلم القراءة والكتابة والحساب، وفي عام 1352 هـ أصيب الشعيبي بمرض الجدري مما أدى إلى فقده بصره، وقد حرص عليه والده منذ نعومة أظفاره وكان والده عبد الله صاحب زراعة وفلاحة فتعلم الشعيبي منه مع فقده لبصره الزراعة والسقي وغيرها.',
+]
+embeddings = model.encode(sentences)
+print(embeddings.shape)
+# [3, 768]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(embeddings, embeddings)
+print(similarities.shape)
+# [3, 3]
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### Unnamed Dataset
+
+* Size: 13,476 training samples
+* Columns: <code>sentence_0</code>, <code>sentence_1</code>, and <code>label</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | sentence_0                                                                         | sentence_1                                                                          | label                                                          |
+  |:--------|:-----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|:---------------------------------------------------------------|
+  | type    | string                                                                             | string                                                                              | float                                                          |
+  | details | <ul><li>min: 5 tokens</li><li>mean: 22.14 tokens</li><li>max: 105 tokens</li></ul> | <ul><li>min: 10 tokens</li><li>mean: 39.06 tokens</li><li>max: 308 tokens</li></ul> | <ul><li>min: 0.0</li><li>mean: 0.26</li><li>max: 1.0</li></ul> |
+* Samples:
+  | sentence_0                                                                                                                                                  | sentence_1                                                                                                                                                                                                                                      | label            |
+  |:------------------------------------------------------------------------------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:-----------------|
+  | <code>من رفض تنفيذ المشروع ( أول مرة ) فهو غير مؤهل لتكملة مشروعك، أذكر الآية التي دلت على هذا المعنى؟.</code>                                              | <code>فإن رجعك الله إلى طائفة منهم فاستأذنوك للخروج فقل لن تخرجوا معي أبدا ولن تقاتلوا معي عدوا إنكم رضيتم بالقعود أول مرة فاقعدوا مع الخالفين{83} التوبة</code>                                                                                | <code>1.0</code> |
+  | <code>ما الآية التي تدل على أن ما أصابك -أيها الإنسان- مِن خير ونعمة فهو من الله تعالى وحده, فضلا وإحسانًا, وما أصابك من جهد وشدة فبسبب عملك السيئ ؟</code> | <code>قال فإنا قد فتنا قومك من بعدك وأضلهم السامري{85} طه</code>                                                                                                                                                                                | <code>0.0</code> |
+  | <code>ما هو الشرك الأكبر؟</code>                                                                                                                            | <code>وإذ قلنا ادخلوا هـذه القرية فكلوا منها حيث شئتم رغدا وادخلوا الباب سجدا وقولوا حطة نغفر لكم خطاياكم وسنزيد المحسنين{58} فبدل الذين ظلموا قولا غير الذي قيل لهم فأنزلنا على الذين ظلموا رجزا من السماء بما كانوا يفسقون{59}البقرة..</code> | <code>0.0</code> |
+* Loss: [<code>CosineSimilarityLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cosinesimilarityloss) with these parameters:
+  ```json
+  {
+      "loss_fct": "torch.nn.modules.loss.MSELoss"
+  }
+  ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `per_device_train_batch_size`: 4
+- `per_device_eval_batch_size`: 4
+- `fp16`: True
+- `multi_dataset_batch_sampler`: round_robin
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `overwrite_output_dir`: False
+- `do_predict`: False
+- `eval_strategy`: no
+- `prediction_loss_only`: True
+- `per_device_train_batch_size`: 4
+- `per_device_eval_batch_size`: 4
+- `per_gpu_train_batch_size`: None
+- `per_gpu_eval_batch_size`: None
+- `gradient_accumulation_steps`: 1
+- `eval_accumulation_steps`: None
+- `torch_empty_cache_steps`: None
+- `learning_rate`: 5e-05
+- `weight_decay`: 0.0
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `max_grad_norm`: 1
+- `num_train_epochs`: 3
+- `max_steps`: -1
+- `lr_scheduler_type`: linear
+- `lr_scheduler_kwargs`: {}
+- `warmup_ratio`: 0.0
+- `warmup_steps`: 0
+- `log_level`: passive
+- `log_level_replica`: warning
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `save_safetensors`: True
+- `save_on_each_node`: False
+- `save_only_model`: False
+- `restore_callback_states_from_checkpoint`: False
+- `no_cuda`: False
+- `use_cpu`: False
+- `use_mps_device`: False
+- `seed`: 42
+- `data_seed`: None
+- `jit_mode_eval`: False
+- `use_ipex`: False
+- `bf16`: False
+- `fp16`: True
+- `fp16_opt_level`: O1
+- `half_precision_backend`: auto
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `local_rank`: 0
+- `ddp_backend`: None
+- `tpu_num_cores`: None
+- `tpu_metrics_debug`: False
+- `debug`: []
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 0
+- `dataloader_prefetch_factor`: None
+- `past_index`: -1
+- `disable_tqdm`: False
+- `remove_unused_columns`: True
+- `label_names`: None
+- `load_best_model_at_end`: False
+- `ignore_data_skip`: False
+- `fsdp`: []
+- `fsdp_min_num_params`: 0
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `fsdp_transformer_layer_cls_to_wrap`: None
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `deepspeed`: None
+- `label_smoothing_factor`: 0.0
+- `optim`: adamw_torch
+- `optim_args`: None
+- `adafactor`: False
+- `group_by_length`: False
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `skip_memory_metrics`: True
+- `use_legacy_prediction_loop`: False
+- `push_to_hub`: False
+- `resume_from_checkpoint`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_private_repo`: None
+- `hub_always_push`: False
+- `hub_revision`: None
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `include_inputs_for_metrics`: False
+- `include_for_metrics`: []
+- `eval_do_concat_batches`: True
+- `fp16_backend`: auto
+- `push_to_hub_model_id`: None
+- `push_to_hub_organization`: None
+- `mp_parameters`: 
+- `auto_find_batch_size`: False
+- `full_determinism`: False
+- `torchdynamo`: None
+- `ray_scope`: last
+- `ddp_timeout`: 1800
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `include_tokens_per_second`: False
+- `include_num_input_tokens_seen`: False
+- `neftune_noise_alpha`: None
+- `optim_target_modules`: None
+- `batch_eval_metrics`: False
+- `eval_on_start`: False
+- `use_liger_kernel`: False
+- `liger_kernel_config`: None
+- `eval_use_gather_object`: False
+- `average_tokens_across_devices`: False
+- `prompts`: None
+- `batch_sampler`: batch_sampler
+- `multi_dataset_batch_sampler`: round_robin
+
+</details>
+
+### Training Logs
+| Epoch  | Step  | Training Loss |
+|:------:|:-----:|:-------------:|
+| 0.0848 | 500   | 0.0371        |
+| 0.1695 | 1000  | 0.0317        |
+| 0.2543 | 1500  | 0.0302        |
+| 0.3391 | 2000  | 0.0304        |
+| 0.4239 | 2500  | 0.0295        |
+| 0.5086 | 3000  | 0.0263        |
+| 0.5934 | 3500  | 0.0271        |
+| 0.6782 | 4000  | 0.0278        |
+| 0.7630 | 4500  | 0.0263        |
+| 0.8477 | 5000  | 0.0271        |
+| 0.9325 | 5500  | 0.0253        |
+| 1.0173 | 6000  | 0.022         |
+| 1.1021 | 6500  | 0.0085        |
+| 1.1868 | 7000  | 0.0115        |
+| 1.2716 | 7500  | 0.0127        |
+| 1.3564 | 8000  | 0.0111        |
+| 1.4412 | 8500  | 0.011         |
+| 1.5259 | 9000  | 0.0124        |
+| 1.6107 | 9500  | 0.0116        |
+| 1.6955 | 10000 | 0.0112        |
+| 1.7803 | 10500 | 0.0131        |
+| 1.8650 | 11000 | 0.0127        |
+| 1.9498 | 11500 | 0.011         |
+| 2.0346 | 12000 | 0.0094        |
+| 2.1194 | 12500 | 0.0051        |
+| 2.2041 | 13000 | 0.0042        |
+| 2.2889 | 13500 | 0.0044        |
+| 2.3737 | 14000 | 0.0048        |
+| 2.4585 | 14500 | 0.0065        |
+| 2.5432 | 15000 | 0.0055        |
+| 2.6280 | 15500 | 0.0055        |
+| 2.7128 | 16000 | 0.0049        |
+| 2.7976 | 16500 | 0.0049        |
+| 2.8823 | 17000 | 0.0045        |
+| 2.9671 | 17500 | 0.0053        |
+| 0.1975 | 500   | 0.0366        |
+| 0.3949 | 1000  | 0.0155        |
+| 0.5924 | 1500  | 0.0143        |
+| 0.7899 | 2000  | 0.012         |
+| 0.9874 | 2500  | 0.0119        |
+| 1.1848 | 3000  | 0.006         |
+| 1.3823 | 3500  | 0.0052        |
+| 1.5798 | 4000  | 0.005         |
+| 1.7773 | 4500  | 0.0048        |
+| 1.9747 | 5000  | 0.0037        |
+| 2.1722 | 5500  | 0.0023        |
+| 2.3697 | 6000  | 0.0018        |
+| 2.5671 | 6500  | 0.0016        |
+| 2.7646 | 7000  | 0.0018        |
+| 2.9621 | 7500  | 0.0023        |
+| 0.1484 | 500   | 0.1158        |
+| 0.2968 | 1000  | 0.1153        |
+| 0.4452 | 1500  | 0.1063        |
+| 0.5936 | 2000  | 0.0976        |
+| 0.7421 | 2500  | 0.0971        |
+| 0.8905 | 3000  | 0.0985        |
+| 1.0389 | 3500  | 0.0885        |
+| 1.1873 | 4000  | 0.062         |
+| 1.3357 | 4500  | 0.0582        |
+| 1.4841 | 5000  | 0.0635        |
+| 1.6325 | 5500  | 0.0618        |
+| 1.7809 | 6000  | 0.0596        |
+| 1.9294 | 6500  | 0.0626        |
+| 2.0778 | 7000  | 0.0482        |
+| 2.2262 | 7500  | 0.0397        |
+| 2.3746 | 8000  | 0.0376        |
+| 2.5230 | 8500  | 0.0432        |
+| 2.6714 | 9000  | 0.0397        |
+| 2.8198 | 9500  | 0.0413        |
+| 2.9682 | 10000 | 0.0403        |
+
+
+### Framework Versions
+- Python: 3.11.13
+- Sentence Transformers: 4.1.0
+- Transformers: 4.54.0
+- PyTorch: 2.6.0+cu124
+- Accelerate: 1.9.0
+- Datasets: 4.0.0
+- Tokenizers: 0.21.2
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

added_tokens.json

@@ -0,0 +1,4 @@
+{
+  "<passage>": 64001,
+  "<query>": 64000
+}

config.json

@@ -0,0 +1,24 @@
+{
+  "architectures": [
+    "BertModel"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "classifier_dropout": null,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "layer_norm_eps": 1e-12,
+  "max_position_embeddings": 512,
+  "model_type": "bert",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "pad_token_id": 0,
+  "position_embedding_type": "absolute",
+  "torch_dtype": "float32",
+  "transformers_version": "4.54.0",
+  "type_vocab_size": 2,
+  "use_cache": true,
+  "vocab_size": 64002
+}

config_sentence_transformers.json

@@ -0,0 +1,10 @@
+{
+  "__version__": {
+    "sentence_transformers": "4.1.0",
+    "transformers": "4.54.0",
+    "pytorch": "2.6.0+cu124"
+  },
+  "prompts": {},
+  "default_prompt_name": null,
+  "similarity_fn_name": "cosine"
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:033eb8e259132b4ab4ac60174ffe6d4d8bd16ac053cff133cf28350642bc0da1
+size 540801896

modules.json

@@ -0,0 +1,14 @@
+[
+  {
+    "idx": 0,
+    "name": "0",
+    "path": "",
+    "type": "sentence_transformers.models.Transformer"
+  },
+  {
+    "idx": 1,
+    "name": "1",
+    "path": "1_Pooling",
+    "type": "sentence_transformers.models.Pooling"
+  }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+  "max_seq_length": 512,
+  "do_lower_case": false
+}

special_tokens_map.json

@@ -0,0 +1,37 @@
+{
+  "cls_token": {
+    "content": "[CLS]",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "mask_token": {
+    "content": "[MASK]",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "pad_token": {
+    "content": "[PAD]",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "sep_token": {
+    "content": "[SEP]",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "unk_token": {
+    "content": "[UNK]",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  }
+}

tokenizer_config.json

@@ -0,0 +1,110 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "[PAD]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "[UNK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "[CLS]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "[SEP]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "4": {
+      "content": "[MASK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "5": {
+      "content": "[رابط]",
+      "lstrip": false,
+      "normalized": true,
+      "rstrip": false,
+      "single_word": true,
+      "special": true
+    },
+    "6": {
+      "content": "[بريد]",
+      "lstrip": false,
+      "normalized": true,
+      "rstrip": false,
+      "single_word": true,
+      "special": true
+    },
+    "7": {
+      "content": "[مستخدم]",
+      "lstrip": false,
+      "normalized": true,
+      "rstrip": false,
+      "single_word": true,
+      "special": true
+    },
+    "64000": {
+      "content": "<query>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "64001": {
+      "content": "<passage>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "clean_up_tokenization_spaces": false,
+  "cls_token": "[CLS]",
+  "do_basic_tokenize": true,
+  "do_lower_case": false,
+  "extra_special_tokens": {},
+  "mask_token": "[MASK]",
+  "max_len": 512,
+  "max_length": 256,
+  "model_max_length": 512,
+  "never_split": [
+    "[بريد]",
+    "[مستخدم]",
+    "[رابط]"
+  ],
+  "pad_to_multiple_of": null,
+  "pad_token": "[PAD]",
+  "pad_token_type_id": 0,
+  "padding_side": "right",
+  "sep_token": "[SEP]",
+  "stride": 0,
+  "strip_accents": null,
+  "tokenize_chinese_chars": true,
+  "tokenizer_class": "BertTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
+  "unk_token": "[UNK]"
+}