e5-mistral-7b-instruct

מה זה

המודל לוקח ארכיטקטורה של מודל שפה גנרטיבי מסוג MistralModel עם 32 שכבות ומסב אותה למשימת הפקת וקטורים בשיטת feature-extraction. בזכות שילוב ספריית sentence-transformers, אפשר לשלב הוראות פרומפט לפני הטקסט כדי לכוונן את איכות החיפוש והשליפה לפי משימה ספציפית.

במבחני MTEB הוא מציג ביצועים גבוהים במיוחד במיון טקסטים של קוטביות באמזון עם דיוק של 95.9%, ובמשימות חיפוש טקסט מקביל (Bitext Mining) בשפות אירופיות וסינית עם דיוק של מעל 98% ו־99%. מנגד, בסיווג ביקורות רב-לשוני מורכב יותר התוצאות צונחות לאזור ה־46% עד 55% דיוק, מה שמראה שהעוצמה העיקרית שלו נשארת שליפה והתאמה סמנטית ולא הבחנה דקה ברגשות מורכבים.

מתאים ל

• שליפת מסמכים ארוכים

  חלון של 32,768 טוקנים מונע קיצוץ של מסמכים משפטיים וטכניים מלאים.

• חיפוש סמנטי מותאם משימה

  מבנה ההוראות מאפשר לכוון את סגנון הווקטורים לפי שאילתה קונקרטית.

• איתור טקסט מקביל

  בדיקות הכרטיס מציגות דיוק של מעל 99% בהתאמת מקור ותרגום במאגרי BUCC.

איפה זה נופל

הנתונים מראים נפילה חדה במשימות דמיון טקסטואלי סמנטי מסוימות, למשל במבחני C-MTEB AFQMC שבהם מדד פירסון עומד על 37.8 בלבד. בנוסף, השפה המוגדרת בכרטיס היא אנגלית בלבד. אין שום תיעוד רשמי או תמיכה בעברית, ולכן בדיקת איכות הווקטורים על מסמכים מקומיים היא חובה מוחלטת לפני כל מחשבה על פרודקשן.

איך מריצים

אתם צריכים לפחות 16 עד 24 גיגה-בייט של זיכרון כרטיס מסך כדי להעלות את 26.6 הגיגה-בייט של המודל ב־float16. הרצה מקומית על שרת ענן דורשת כרטיס A10G או A100 כדי לקבל מהירות סבירה ולא לייצר צוואר בקבוק בזמן שיכוך.

אם אתם רק צריכים לאנדקס פעם ביום כמה עשרות מסמכים, אין שום סיבה להחזיק כרטיס מסך ייעודי שעולה מאות דולרים בחודש. עדיף לקרוא למודל דרך שירות ענן מנוהל ולשלם לפי קריאה, אלא אם המידע שלכם רגיש ואסור לו לצאת מהתשתית המקומית.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("intfloat/e5-mistral-7b-instruct")
v = m.encode(["שלום עולם"])

הקבצים

21 קבצים במאגר, 26.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model-00001-of-00002.bin9.9 GB
• model-00001-of-00002.safetensors9.9 GB
• pytorch_model-00002-of-00002.bin4.3 GB
• model-00002-of-00002.safetensors4.3 GB
• lora/adapter_model.bin167.9 MB
• tokenizer.json1.8 MB
• tokenizer.model493.4 KB
• README.md177.8 KB
• model.safetensors.index.json23.3 KB
• pytorch_model.bin.index.json22.2 KB
• .gitattributes1.5 KB
• tokenizer_config.json981 B
• config.json629 B
• .eval_results/ArguAna.yaml575 B
• config_sentence_transformers.json557 B
• lora/adapter_config.json533 B
• modules.json349 B
• 1_Pooling/config.json297 B
• special_tokens_map.json168 B
• sentence_bert_config.json55 B
• added_tokens.json42 B

הרישיון

הפרויקט מופץ תחת רישיון MIT. הרישיון הזה מתיר שימוש מסחרי חופשי לחלוטין, שינוי קוד, והפצה בתוך מוצרים סגורים ללא תשלום תמלוגים, בתנאי ששומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗