distiluse-base-multilingual-cased-v2

מה זה

מדובר במודל שממיר פסקאות ומשפטים לווקטורים צפופים בגודל 512 ממדים, על בסיס ארכיטקטורת DistilBert קלה יחסית. הייעוד העיקרי שלו הוא משימות של דמיון סמנטי, קיבוץ וחיפוש בטקסטים חוצי שפות, כשהוא מתחשב גם באותיות גדולות וקטנות. השכבה האחרונה שלו מקטינה את הייצוג המקורי של 768 ממדים ל־512 באמצעות שכבת Dense ואקטיבציית Tanh, מה שמקטין את נפח האחסון הנדרש באינדקס הווקטורי שלכם.

הוא יצא בתחילת 2022 כחלק מגל הפתרונות הרב־לשוניים של ספריית sentence-transformers, ומיועד לשפות רבות כולל ערבית, גרמנית, יוונית ועוד. למרות שהוא מבוסס על שלד קל עם 135 מיליון פרמטרים, קובצי המשקל שפורסמו מגיעים לכמעט 5 גיגה־בייט שמחולקים לעשרות קבצים, מה שדורש תשומת לב בהורדה הראשונית. הוא מתאים למי שחייב לזהות דמיון בין שפות שונות באותו מרחב וקטורי בלי להסתבך בהגדרות מורכבות.

מתאים ל

• חיפוש סמנטי רב־לשוני

  התאמת שאילתות למסמכים כשהטקסטים כתובים בשפות שונות, בזכות מרחב וקטורי אחיד של 512 ממדים.

• קיבוץ משפטים קצרים

  חלוקה מהירה של הודעות תמיכה או כותרות לאשכולות נושאיים, במיוחד כשהקלט לא עובר את מגבלת 128 הטוקנים.

• בדיקת כפילויות בתוכן

  זיהוי משפטים בעלי משמעות זהה בניסוחים שונים במהירות גבוהה ובעלות חישוב מינימלית.

איפה זה נופל

למרות שחלון ההקשר הכללי של המודל מוגדר עד 512 טוקנים, שכבת הטרנספורמר בפועל חותכת את הקלט באורך 128 טוקנים בלבד. אם תזרקו עליו מסמכים שלמים או פסקאות ארוכות, הוא פשוט יתעלם מרוב הטקסט בלי להתריע. בנוסף, רשימת השפות המפורטת בכרטיס לא כוללת עברית באופן רשמי, כך שחובה לבדוק איכות ודיוק בעברית לפני שבונים עליו משהו קריטי.

אותה משפחה

distiluse-base-multilingual-cased יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers בפייתון עם שורות קוד בודדות, והוא מוכן לשימוש מיידי. עם 135 מיליון פרמטרים אין שום צורך בכרטיס מסך מפלצתי, כל מעבד סביר של שרת פשוט יריץ אותו בקלות, ובטח כרטיס גרפי בסיסי אם יש לכם נפח שאילתות גדול.

בגלל המשקל הנמוך של המודל בזמן ריצה, כמעט תמיד עדיף להחזיק אותו מקומית בתוך התשתית שלכם מאשר לשלם לספק חיצוני לפי קריאות. אין כאן מורכבות תשתיתית אמיתית שמצדיקה תלות ברשת.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("sentence-transformers/distiluse-base-multilingual-cased-v2")
v = m.encode(["שלום עולם"])

הקבצים

30 קבצים במאגר, 4.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• tf_model.h5539.1 MB
• onnx/model.onnx539.0 MB
• onnx/model_O1.onnx539.0 MB
• pytorch_model.bin539.0 MB
• onnx/model_O3.onnx539.0 MB
• onnx/model_O2.onnx539.0 MB
• model.safetensors538.9 MB
• openvino/openvino_model.bin538.9 MB
• onnx/model_O4.onnx269.5 MB
• openvino/openvino_model_qint8_quantized.bin135.7 MB
• onnx/model_quint8_avx2.onnx135.4 MB
• onnx/model_qint8_arm64.onnx135.3 MB
• onnx/model_qint8_avx512.onnx135.3 MB
• onnx/model_qint8_avx512_vnni.onnx135.3 MB
• tokenizer.json2.0 MB
• 2_Dense/pytorch_model.bin1.6 MB
• 2_Dense/model.safetensors1.6 MB
• vocab.txt995.5 KB
• openvino/openvino_model_qint8_quantized.xml372.6 KB
• openvino/openvino_model.xml217.6 KB
• README.md2.5 KB
• .gitattributes744 B
• config.json610 B
• tokenizer_config.json531 B
• modules.json341 B
• 1_Pooling/config.json190 B
• config_sentence_transformers.json122 B
• 2_Dense/config.json114 B
• special_tokens_map.json112 B
• sentence_bert_config.json53 B

הרישיון

רישיון apache-2.0 מתיר שימוש מסחרי חופשי לחלוטין. מותר לשלב אותו במוצרים סגורים, לשנות את הקוד ולהפיץ אותו, כל עוד שומרים על הודעת זכויות היוצרים המקורית וכתב הוויתור.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗