distiluse-base-multilingual-cased-v1

מה זה

מדובר במודל שמבוסס על ארכיטקטורת DistilBERT עם 135 מיליון פרמטרים, שנועד לייצר וקטורים להשוואת משפטים, קלאסטרינג וחיפוש סמנטי. הייחוד המרכזי שלו הוא התמיכה המובנית במספר שפות, כולל ערבית, אנגלית, צרפתית, גרמנית, הולנדית, איטלקית וסינית. הוא לוקח ייצוג של 768 ממדים ומצמצם אותו לשכבה דחוסה של 512 ממדים בעזרת פונקציית אקטיבציה מסוג Tanh.

הגודל הקומפקטי שלו הופך אותו לפתרון פשוט ליישום כשרוצים להשוות בין שפות שונות בלי להסתבך עם מודלי ענק. הוא לא מייצר טקסט ולא עונה על שאלות בצורה חופשית, אלא מתרכז אך ורק במיפוי המשמעות של משפטים ופסקאות למרחב וקטורי.

מתאים ל

• חיפוש סמנטי רב-לשוני

  התאמת שאילתות למסמכים קצרים על פני שפות שונות כמו אנגלית, ערבית וצרפתית.

• קיבוץ משפטים לנושאים

  הפקת וקטורים בגודל 512 ממדים לצורך קלאסטרינג מהיר וזול של הודעות קצרות.

• בדיקת כפילויות בטקסט

  מדידת דמיון סמנטי בין שאלות או כותרות כדי למנוע חזרות במאגרי מידע.

איפה זה נופל

למרות שמוגדר חלון הקשר של 512 טוקנים, הארכיטקטורה הפנימית מוגדרת עם max_seq_length של 128 טוקנים בלבד. זה אומר שטקסטים ארוכים ייחתכו מוקדם מאוד, והוא פשוט לא מתאים למסמכים מלאים אלא למשפטים קצרים בלבד. בנוסף, עברית לא מופיעה ברשימת השפות הנתמכות שפורסמה, כך שמי שבונה עליו לטקסט מקומי יקבל תוצאות חלשות ולא מדויקות.

אותה משפחה

distiluse-base-multilingual-cased יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers בפייתון עם שורות קוד בודדות. בגלל שמדובר ב־135 מיליון פרמטרים בלבד, אפשר להריץ אותו בקלות על מעבד רגיל בכל שרת פשוט, בלי שום חובה להחזיק כרטיס מסך ייעודי.

אם אתם צריכים לחשב וקטורים לכמויות עצומות של טקסט בזמן קצר, כרטיס מסך בסיסי יאיץ את העבודה משמעותית. שימוש ב־API חיצוני יהיה הגיוני רק אם אתם לא רוצים לנהל שרתים בכלל, אבל המשקל הנמוך של המודל הופך הרצה עצמית לזולה ופשוטה מאוד לתחזוקה שוטפת.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("sentence-transformers/distiluse-base-multilingual-cased-v1")
v = m.encode(["שלום עולם"])

הקבצים

30 קבצים במאגר, 4.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• tf_model.h5539.1 MB
• onnx/model.onnx539.0 MB
• onnx/model_O1.onnx539.0 MB
• pytorch_model.bin539.0 MB
• onnx/model_O3.onnx539.0 MB
• onnx/model_O2.onnx539.0 MB
• model.safetensors538.9 MB
• openvino/openvino_model.bin538.9 MB
• onnx/model_O4.onnx269.5 MB
• openvino/openvino_model_qint8_quantized.bin135.7 MB
• onnx/model_quint8_avx2.onnx135.4 MB
• onnx/model_qint8_arm64.onnx135.3 MB
• onnx/model_qint8_avx512.onnx135.3 MB
• onnx/model_qint8_avx512_vnni.onnx135.3 MB
• tokenizer.json2.0 MB
• 2_Dense/pytorch_model.bin1.6 MB
• 2_Dense/model.safetensors1.6 MB
• vocab.txt995.5 KB
• openvino/openvino_model_qint8_quantized.xml372.6 KB
• openvino/openvino_model.xml217.6 KB
• README.md2.2 KB
• .gitattributes744 B
• config.json556 B
• tokenizer_config.json452 B
• modules.json341 B
• 1_Pooling/config.json190 B
• config_sentence_transformers.json122 B
• 2_Dense/config.json114 B
• special_tokens_map.json112 B
• sentence_bert_config.json53 B

הרישיון

המודל מופץ תחת רישיון apache-2.0. זה רישיון פתוח ומתירני שמאפשר שימוש מסחרי חופשי, שינוי של הקוד והפצה פנימית או ללקוחות, בתנאי ששומרים על הודעת זכויות היוצרים המקורית והטקסט של הרישיון.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗