devSaleh/BGE-M3-Saudi-Legal-Cases-regulations

SentenceTransformer based on BAAI/bge-m3

This is a sentence-transformers model finetuned from BAAI/bge-m3. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: BAAI/bge-m3
• Maximum Sequence Length: 256 tokens
• Output Dimensionality: 1024 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 256, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'الوقائع:\nتتلخص وقائع هذه الدعوى في أنه سبق أن تقدم المدعي وكالة ((...)) الموكل بالوكالة رقم: ((...)) بصحيفة دعوى إلى المحكمة التجارية بالدمام ذكر فيها: إنه بتاريخ ١٤٤٤/٠٩/٠٦هـ اتفق أطراف الدعوى على أن تبيع المدعية للمدعى عليها (مواد غذائية متنوعة) عدد (٥) (فول مدمس - سمن نباتي - صدور دجاج طرية - تونة لحم خفيف) بثمن إجمالي قدره (٣٢٦,١٥٨.٧٤) ثلاث مئة وستة وعشرون ألفًا ومائة وثمانية وخمسون ريال و أربعة وسبعون هللة سدد منه (٤٠,٤٣٠) أربعون ألفًا وأربع مئة وثلاثون ريال ، وقد استلمت المدعى عليها كامل المبيع ولم يتم تحديد مدة العقد، علماً أن نشوء الحق كان بتاريخ ١٤٤٥/٠٣/٠٤هـ ، ونشأ بسبب هذه العلاقة التجارية عدم تسليم كامل المبلغ المستحق من ثمن المبيع، وطالب: بإلزام المدعى عليه بتسليم الثمن وقدره (٢٨٥,٧٢٩) مئتان وخمسة وثمانون ألفًا وسبع مئة وتسعة وعشرون ريال.\nوقدم سندا لطلبه المستندات الآتية:\n١-محرر عادي يتمثل في كشف حساب على مطبوعات المدعية بمبلغ وقدره (٢٨٥,٧٢٩) مئتان وخمسة وثمانون ألفًا وسبع مئة وتسعة وعشرون ريال.\n٢- محرر عادي يتمثل في مجموعة فواتير عددها (٥) على مطبوعات المدعية بمبلغ وقدره (٢٨٥,٧٢٩) مئتان وخمسة وثمانون ألفًا وسبع مئة وتسعة وعشرون ريال وممهور بختم منسوب للمدعى عليها .\nوعقدت المحكمة جلسة في ١٤٤٥/١١/٢٥هـ: حضر المدعي وكالة ولم يحضر من يمثل المدعى عليها رغم تبلغها لشخصها بموعد هذه الجلسة بموجب مهمة التبليغ،وقررت المحكمة صلاحية القضية للحكم وقفل باب المرافعة.\nالأسباب:\nتأسيسا على ما تقدم، وحيث حصر المدعي وكالة دعواه بطلبه إلزام المدعى عليها بتسليم الثمن وقدره (٢٨٥,٧٢٩.٠٠) مئتان وخمسة وثمانون ألفًا وسبع مئة وتسعة وعشرون ريال سعودي، وفقا لما فصل في وقائع الدعوى أعلاه، ولم ت',
    'تضمن النظام: أحكام عامة عن الإثبات، الإقرار، استجواب الخصوم، المحررات الرسمية، المحررات العادية، إلزام الخصم بتقديم المحررات، إثبات صحة المحررات، تحقيق الخطوط، دعوى التزوير، الكتابة، الدليل الرقمي، الشهادة، القرائن وحجية الأمر المقضي، العرف، اليمين واليمين الحاسمة والمتممة، المعاينة، الخبرة، أحكام ختامية، النشر والنفاذ.',
    'إذا استحق المبيع كله كان للمستحق إذا أجاز البيع الرجوع على البائع بالثمن، ويَخلُص المبيع للمشتري.\n\n\nالمادة الخامسة والثلاثون بعد الثلاثمائة\n\nإذا استحق المبيع كله ولم يجز المستحق البيع، فللمشتري أن يطلب من البائع الآتي: أ- ثمن المبيع. ب- قيمة الثمار التي أُلزِمَ المشتري بردها للمستحق. ج- النفقات النافعة التي أحدثها المشتري في المبيع مما لا يلزم المستحق تعويض المشتري عنها. د- النفقات الكمالية إذا كان البائع سيئ النية. هـ- التعويض عن أي أضرار أخرى نشأت باستحقاق المبيع.\n\n\nالمادة السادسة والثلاثون بعد الثلاثمائة\n\nإذا استُحق بعض المبيع وأحدث الاستحقاق عيباً في الباقي كان للمشتري طلب الفسخ، فإن اختار إمساك المبيع أو لم يحدث الاستحقاق عيباً في الباقي فليس له إلا الرجوع بالضمان في الجزء المستحق.\n\n\nالمادة السابعة والثلاثون بعد الثلاثمائة\n\n١- يصحُّ الاتفاق على إعفاء البائع من ضمان الاستحقاق أو الحد من هذا الضمان أو زيادته، عدا ما يكون منه ناشئاً عن فعل البائع أو كان قد تعمد إخفاءه. ٢- لا يحول الاتفاق على الإعفاء من ضمان الاستحقاق دون حق المشتري في الرجوع على البائع بالثمن؛ ما لم يثبت أن المشتري كان يعلم وقت البيع سبب الاستحقاق.\n\n\nالمادة الثامنة والثلاثون بعد الثلاثمائة',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

• Dataset: saudi-legal-val
• Evaluated with InformationRetrievalEvaluator

Metric	Value
cosine_accuracy@1	0.0
cosine_accuracy@3	0.0
cosine_accuracy@5	0.0
cosine_accuracy@10	0.0
cosine_precision@1	0.0
cosine_precision@3	0.0
cosine_precision@5	0.0
cosine_precision@10	0.0
cosine_recall@1	0.0
cosine_recall@3	0.0
cosine_recall@5	0.0
cosine_recall@10	0.0
cosine_ndcg@10	0.0
cosine_mrr@10	0.0
cosine_map@100	0.0

Training Details

Training Dataset

Unnamed Dataset

• Size: 65,515 training samples
• Columns: sentence_0, sentence_1, and sentence_2
• Approximate statistics based on the first 1000 samples:

  	sentence_0	sentence_1	sentence_2
  type	string	string	string
  details	min: 256 tokens mean: 256.0 tokens max: 256 tokens	min: 30 tokens mean: 104.49 tokens max: 256 tokens	min: 96 tokens mean: 247.28 tokens max: 256 tokens

• Samples:

  sentence_0	sentence_1	sentence_2
  الوقائع) وجيز الوقائع يتحصل بطلبٍ أودع لدى هذه المحكمة في ٦/٢/١٤٤٢هـ ذكر المدين فيه وفي مرافعته أنه لحقه تعثر تعذَّر بسببه سداد ما انشغلت به ذمته من ديون، وأسند تعثره إلى إحجام البنوك عن تمويل قطاع الكهرباء وتصنيفه على أنه خطير في التقييم الائتماني وتقلص حجم المشاريع الحكومية، موضحاً أن أنشطته تمثلت في صناعة كابلات وشرائط معدنية من النحاس، صناعة المحركات والمولدات الكهربائية، صناعة المحولات الكهربائية، صناعة أجهزة التوزيع والتحكم بالكهرباء، صناعة أجزاء للمولدات والمحركات ومحولات الطاقة الكهربائية، صناعة وصلات الإنارة، وطلب افتتاح إجراء إعادة التنظيم المالي، موضحاً أن إجمالي ديونه (١٢٥.٤٠١.٣٢٣.٢٠ ريال)، وأكد على أنه قام باستيفاء ما نص عليه نظام الإفلاس ولائحته التنفيذية ولائحة المعلومات والوثائق، وأرفق نسخة من المركز المالي كما في ٣١/٠٧/٢٠٢٠م، وأوضح أنه قام بالتواصل مع أكثر من أمين مدرج وأنه يرشح أمين الإفلاس (...) وقدم خطاب إفصاحه، وأكد على جديته في الإجراء. وبتهيؤ الطلب للفصل فيه أصدرت الدائرة حكمها مؤسساً على ما يلي: (الأسباب) ومن حيث نصت الفقرة (١/ب) من المادة الثانية والأربعين من ن...	======================================== الفصل الأول - أحكام عامة ======================================== ---------------------------------------- المادة الأولى: ----------------------------------------	فيما لم يرد فيه نص خاص في الأنظمة التجارية، أو المعاهدات والاتفاقيات الدولية التي تكون المملكة طرفًا فيها، تسري قواعد الاختصاص الدولي المنصوص عليها في نظام المرافعات الشرعية على الدعاوى التي تختص بنظرها المحكمة. ---------------------------------------- المادة السادسة عشر ---------------------------------------- تختص المحكمة بالنظر في الآتي: ١.المنازعات التي تنشأ بين التجار بسبب أعمالهم التجارية الأصلية أو التبعية. ٢.الدعاوى المقامة على التاجر في منازعات العقود التجارية، متى كانت قيمة المطالبة الأصلية في الدعوى تزيد على مائة ألف ريال، وللمجلس عند الاقتضاء زيادة هذه القيمة. ٣.المنازعات التي تنشأ عن عقود المشاركة المنصوص عليها في نظام المعاملات المدنية. ٤.الدعاوى والمخالفات الناشئة عن تطبيق أحكام نظام الشركات. ٥.الدعاوى والمخالفات الناشئة عن تطبيق أحكام نظام الإفلاس. ٦.الدعاوى والمخالفات الناشئة عن تطبيق أنظمة الملكية الفكرية. ٧.الدعاوى والمخالفات الناشئة عن تطبيق الأنظمة التجارية الأخرى. ٨.الدعاوى والطلبات المتعلقة بالحارس القضائي والأمين والمصفي والخبير المعينين ونحوهم؛ متى كان النزاع ...
  الوقائع) تتحصل وقائع هذه القضية حسبما تبين من مطالعة أوراقها المقدمة وذلك بالقدر اللازم لإصدار هذا الحكم بأن وكيل المدعية -المثبت في الضبط هويته ومستند صفته- تقدم للمحكمة التجارية بالرياض بلائحة دعوى ذكر فيها ما نصه: (أتقدم إلى فضيلتكم بدعوى موكلتي ضد المدعى عليها شركة الحكير حيث اتفقت موكلتي مع المدعى عليها على إنجاز أعمال الخرسانة مسبقة الصنع لأعمال كلية الطب البشري بجامعة نجران وقد تم تنفيذ العقد وتبقى لموكلتي مبلغ قدره اثنان مليون ومائة وثلاثة وتسعون ألفاً وثمانمائة وتسعون ريالاً، وأطلب إلزام المدعى عليها بدفع المبلغ المدعى به لموكلتي). وقد تم قيدها قضية بالرقم المشار إليه في صدر الحكم وفي سبيل نظر الدعوى حددت الدائرة له جلسة 28/07/1440هـ موعدًا لنظرها وفيها حضر وكيل المدعية -المثبت في الضبط هويته ومستند صفته- وبطلب الجواب من وكيل المدعى عليها -المثبت في الضبط هويته ومستند صفته- ذكر أنه لم يستلم لائحة الدعوى وجرى تسليمه لائحة الدعوى ومرفقاتها واستعد بإحضار جوابه وذكر الطرفان أنهما سيتبادلان المذكرات بينهم قبل موعد الجلسة القادمة. وفي جلسة 24/10/1440هـ قدم وكيل المدعى عليها مذكرة جو...	يحل هذا النظام محل نظام المرافعات الشرعية عام ١٤٢١هـ, ويتضمن : أحكام عامة, الاختصاص, رفع الدعوى وقيدها, حضور الخصوم وغيابهم والتوكيل في الخصومة, إجراءات الجلسات ونظامها, الدفوع والإدخال والتدخل والطلبات العارضة, وقف الخصومة وانقطاعها وتركها, تنحي القاضي وردهم عن الحكم, إجراءات الإثبات, الأحكام, طرق الاعتراض على الأحكام, القضاء المستعجل, الإنهاءات, أحكام ختامية.	لا يقبل أمر الأداء إذا تضمن التزامات متبادلة، إلا إذا أرفق الدائن بالطلب دليلاً كتابياً على قيامه بتنفيذ التزاماته. المادة السادسة والثمانون بعد المائة: - تقديم طلب أمر الأداء يكون الاختصاص المكاني بإصدار أمر الأداء والتظلم منه للمحكمة التي يكون في نطاق اختصاصها مكان إقامة المدين. المادة السابعة والثمانون بعد المائة: - تقديم طلب أمر الأداء لا يمنع التقدم بطلب إصدار أمر الأداء من طلب اتخاذ أي من الإجراءات التحفظية. المادة الثامنة والثمانون بعد المائة: - تقديم طلب أمر الأداء يجب أن يشتمل طلب إصدار أمر الأداء على بيانات صحيفة الدعوى المنصوص عليها في النظام واللائحة، وتطبق بشأنه الأحكام الواردة في المادة الحادية والعشرين من النظام. المادة التاسعة والثمانون بعد المائة: - تقديم طلب أمر الأداء يكون إثبات حصول إشعار المدين بطلب الوفاء عبر مقدم خدمة بريدية، أو عبر مقدم خدمة إلكترونية مرخص بالتبليغ والإشعار. المادة التسعون بعد المائة: - تقديم طلب أمر الأداء لا يجوز أن يكون الحق الوارد في الإشعار بطلب الوفاء أقل من المطلوب في طلب إصدار أمر الأداء. المادة الحادية والتسعون بعد الما...
  الوقائع) تتلخص وقائع هذه القضية بالقدر اللازم للحكم فيها أن سعد ابن فالح ابن غدير الدوسري، سعودي الجنسية، بموجب الهوية الوطنية رقم (...)، بالوكالة رقم (42138353) وتاريخ 14/ 1/ 1442هـ عن المدعي أصالة. تقدم بصحيفة دعوى للمحكمة التجارية جاء فيها، بدء العمل بتاريخ: 28/ 5/ 2013م. مدة العقد: خمسة أشهر وواحد وعشرون يوماً. المبالغ المسددة عن الأعمال الإضافية المطالب بها: لا شيء. 1. بتاريخ 1/ 7/ 2013م تم توقيع عقد رقم 13/ 780 بين المدعية وبين الشركة المدعى عليها ينص في الفقرة (1.1) من البند (1) منه - نطاق العمل - على قيام المدعية بتوريد وتركيب وتسليم المواد الخاصة بالخدمات الميكانيكية والكهربائية وتمديدات المجاري، وكذلك تقديم أنظمة إدارة المباني في المركز الرئيسي للشركة المدعى عليها بالرياض وفقاً لما هو مبين في هذا البند. ونصت الفقرة (1.2) من البند (1) على أن نطاق العمل يشمل الأعمال الميكانيكية الخاصة بنظام التدفئة والتهوية وتكييف الهواء الأعمال الكهربائية: أعمال - أنظمة الإضاءة - نظام إدارة المباني - نظام الحريق والسلامة. كما نص البند (2) من العقد على أن إجمالي قيمة المشروع (17,426,633) ريال و...	تضمن النظام : أحكام عامة ، تعريفات ، الاختصاص ، قيد الدعوى ، نظر الدعوى ، حضور الخصوم وغيابهم ، الطلبات المستعجلة ، الإثبات ، الإقرار ، الكتابة ، الشهادة ، اليمين ، الاستجواب ، الإثبات الإلكتروني ، الخبرة ، العرف التجاري ، صدور الحكم ، أوامر الأداء ، الاعتراض ، الاستئناف ، التماس إعادة النظر ، النقض ، أحكام ختامية .	---------------------------------------- إضافة للبيانات الواردة في الفقرة (أ) من هذه المادة، يجب أن تشمل صحيفة الدعوى على العنوان الوطني للمدعي، مع إرفاق إفادة بصحته من مؤسسة البريد السعودي، ما لم يكن عنوانه الوطني مسجلا لدى المحكمة. ---------------------------------------- ٤/٤١ ---------------------------------------- يكتفى في المهنة أو الوظيفة الواردة في الفقرتين (أ، ب) من هذه المادة بالاسم العام كأن يقال: موظف، أو متسبب. ---------------------------------------- ٥/٤١ ---------------------------------------- يكون إيداع صحيفة الدعوى بتسجيلها في القيد العام للمحكمة. ---------------------------------------- ٦/٤١ ---------------------------------------- لا يبعث ملف القضية إلى الدائرة لنظرها إلا بعد إكمال صحيفة الدعوى وتحديد موعد الجلسة وإكمال إجراءات التبليغ. ---------------------------------------- ١/٤٢ ---------------------------------------- يدون الكاتب المختص على صحيفة الدعوى وقت الجلسة ومدتها، وينقل ذلك على ورقة التبليغ. ---------------------------------------- ٢/٤٢ ------------...

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 2
• per_device_eval_batch_size: 2
• fp16: True
• multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: no
• prediction_loss_only: True
• per_device_train_batch_size: 2
• per_device_eval_batch_size: 2
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 5e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1
• num_train_epochs: 3
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: None
• warmup_ratio: 0.0
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• bf16: False
• fp16: True
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• project: huggingface
• trackio_space_id: trackio
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: no
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: True
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: round_robin

Training Logs

Click to expand

Epoch	Step	Training Loss	saudi-legal-val_cosine_ndcg@10
-1	-1	-	0.0
0.3816	12500	0.6815	-
0.3968	13000	0.717	-
0.4121	13500	0.8021	-
0.4274	14000	0.7326	-
0.4426	14500	0.7106	-
0.4579	15000	1.2096	-
0.4732	15500	1.3946	-
0.4884	16000	1.3888	-
0.5037	16500	1.3973	-
0.5190	17000	1.3779	-
0.5342	17500	1.3448	-
0.5495	18000	1.3111	-
0.5647	18500	1.238	-
0.5800	19000	1.2039	-
0.5953	19500	1.096	-
0.6105	20000	1.0695	-
0.6258	20500	0.9959	-
0.6411	21000	0.9998	-
0.6563	21500	1.0094	-
0.6716	22000	0.9805	-
0.6869	22500	0.9535	-
0.7021	23000	1.0007	-
0.7174	23500	0.9852	-
0.7326	24000	0.9418	-
0.7479	24500	0.9633	-
0.7632	25000	1.0047	-
0.7784	25500	0.9356	-
0.7937	26000	0.9748	-
0.8090	26500	0.9442	-
0.8242	27000	1.0138	-
0.8395	27500	0.9694	-
0.8548	28000	0.9632	-
0.8700	28500	0.9142	-
0.8853	29000	0.9323	-
0.9005	29500	0.928	-
0.9158	30000	0.9617	-
0.9311	30500	0.9675	-
0.9463	31000	1.0046	-
0.9616	31500	0.9438	-
0.9769	32000	0.9692	-
0.9921	32500	0.877	-
1.0074	33000	0.9818	-
1.0227	33500	0.9346	-
1.0379	34000	0.9093	-
1.0532	34500	0.9344	-
1.0684	35000	0.9185	-
1.0837	35500	0.9774	-
1.0990	36000	0.9449	-
1.1142	36500	0.905	-
1.1295	37000	0.9121	-
1.1448	37500	0.9001	-
1.1600	38000	0.9054	-
1.1753	38500	0.9002	-
1.1905	39000	0.9272	-
1.2058	39500	0.9573	-
1.2211	40000	0.8489	-
1.2363	40500	0.941	-
1.2516	41000	0.9192	-
1.2669	41500	0.9115	-
1.2821	42000	0.9475	-
1.2974	42500	0.8881	-
1.3127	43000	0.9261	-
1.3279	43500	0.8903	-
1.3432	44000	0.9028	-
1.3584	44500	0.9009	-
1.3737	45000	0.9229	-
1.3890	45500	0.8944	-
1.4042	46000	0.9287	-
1.4195	46500	0.911	-
1.4348	47000	0.8918	-
1.4500	47500	0.9019	-
1.4653	48000	0.9019	-
1.4806	48500	0.9068	-
1.4958	49000	0.8903	-
1.5111	49500	0.884	-
1.5263	50000	0.8781	-
1.5416	50500	0.9124	-
1.5569	51000	0.8772	-
1.5721	51500	0.8894	-
1.5874	52000	0.8775	-
1.6027	52500	0.8878	-
1.6179	53000	0.8696	-
1.6332	53500	0.8782	-
1.6485	54000	0.8672	-
1.6637	54500	0.889	-
1.6790	55000	0.8675	-
1.6942	55500	0.905	-
1.7095	56000	0.8448	-
1.7248	56500	0.8845	-
1.7400	57000	0.8741	-
1.7553	57500	0.8515	-
1.7706	58000	0.8628	-
1.7858	58500	0.8755	-
1.8011	59000	0.8319	-
1.8164	59500	0.8465	-
1.8316	60000	0.8903	-
1.8469	60500	0.8766	-
1.8621	61000	0.8604	-
1.8774	61500	0.8836	-
1.8927	62000	0.8754	-
1.9079	62500	0.8693	-
1.9232	63000	0.8625	-
1.9385	63500	0.8665	-
1.9537	64000	0.8472	-
1.9690	64500	0.8747	-
1.9842	65000	0.8618	-
1.9995	65500	0.8496	-
2.0148	66000	0.8705	-
2.0300	66500	0.8687	-
2.0453	67000	0.8628	-
2.0606	67500	0.8721	-
2.0758	68000	0.8584	-
2.0911	68500	0.8341	-
2.1064	69000	0.8472	-
2.1216	69500	0.8398	-
2.1369	70000	0.8685	-
2.1521	70500	0.8517	-
2.1674	71000	0.8861	-
2.1827	71500	0.8637	-
2.1979	72000	0.8477	-
2.2132	72500	0.828	-
2.2285	73000	0.8551	-
2.2437	73500	0.8545	-
2.2590	74000	0.8503	-
2.2743	74500	0.8146	-
2.2895	75000	0.886	-
2.3048	75500	0.8304	-
2.3200	76000	0.8127	-
2.3353	76500	0.8007	-
2.3506	77000	0.8101	-
2.3658	77500	0.8322	-
2.3811	78000	0.8506	-
2.3964	78500	0.85	-
2.4116	79000	0.8376	-
2.4269	79500	0.8438	-
2.4422	80000	0.8492	-
2.4574	80500	0.8335	-
2.4727	81000	0.8518	-
2.4879	81500	0.8307	-
2.5032	82000	0.866	-
2.5185	82500	0.8378	-
2.5337	83000	0.8216	-
2.5490	83500	0.8622	-
2.5643	84000	0.8462	-
2.5795	84500	0.8164	-
2.5948	85000	0.8673	-
2.6100	85500	0.8316	-
2.6253	86000	0.8474	-
2.6406	86500	0.847	-
2.6558	87000	0.8564	-
2.6711	87500	0.8854	-
2.6864	88000	0.848	-
2.7016	88500	0.8361	-
2.7169	89000	0.8476	-
2.7322	89500	0.8308	-
2.7474	90000	0.8274	-
2.7627	90500	0.8184	-
2.7779	91000	0.8547	-
2.7932	91500	0.8369	-
2.8085	92000	0.8035	-
2.8237	92500	0.8073	-
2.8390	93000	0.8479	-
2.8543	93500	0.8599	-
2.8695	94000	0.8415	-
2.8848	94500	0.8221	-
2.9001	95000	0.8521	-
2.9153	95500	0.8288	-
2.9306	96000	0.799	-
2.9458	96500	0.8148	-
2.9611	97000	0.8317	-
2.9764	97500	0.811	-
2.9916	98000	0.8328	-

Framework Versions

• Python: 3.12.6
• Sentence Transformers: 4.1.0
• Transformers: 4.57.6
• PyTorch: 2.6.0+cu124
• Accelerate: 1.13.0
• Datasets: 3.6.0
• Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}