mxbai-embed-large-v1

מה זה

מדובר במודל הטמעה שמבוסס על ארכיטקטורת BERT עם 24 שכבות, שפותח במטרה לייצר ייצוגים וקטוריים מדויקים לטקסטים באנגלית. הוא מיועד למשימות של שליפת מידע, סיווג טקסטים, דמיון סמנטי וחלוקה לאשכולות, ומשתלב בקלות עם ספריית sentence-transformers.

במבחני ביצועים של MTEB הוא רושם תוצאות חזקות. במשימות דמיון סמנטי כמו BIOSSES הוא מגיע למתאם פירסון של כמעט 90, ובסיווג רגשות בסיסי באמזון הוא חוצה את ה־93 אחוזי דיוק. בשליפת מסמכים לפי שאילתות, כמו במאגר ArguAna, המודל מגיע ל־recall של מעל 91 אחוזים בעשר התוצאות הראשונות, מה שמראה שהוא מזהה היטב קשרים עמוקים בין שאלות לתשובות.

מתאים ל

• שליפת מסמכים באנגלית

  מביא recall גבוה במיוחד בעשר התוצאות הראשונות במאגרי שאילתות ותשובות.

• סיווג רגשות בטקסטים קצרים

  מדייק בלמעלה מ־93 אחוזים במבחני פולאריות של ביקורות מוצר.

• השוואת דמיון סמנטי

  מציג מתאם של קרוב ל־90 אחוזים בבדיקות קרבה סמנטית בין משפטים.

איפה זה נופל

המגבלה המרכזית היא חלון הקשר של 512 טוקנים בלבד. אם יש לכם מסמכים ארוכים, תצטרכו לחתוך אותם לפסקאות קצרות לפני ההטמעה, אחרת הטקסט ייקטע. בנוסף, המודל אומן והוגדר לשפה האנגלית בלבד, ולכן הוא לא מתאים לעיבוד טקסטים בעברית. גם בתוך המבחנים באנגלית רואים נפילה במשימות מורכבות, סיווג ביקורות מרובה מחלקות נעצר סביב 49 אחוזי דיוק, ובשליפה של נושאים טכניים ומתמטיים התוצאות נמוכות משמעותית.

איך מריצים

טוענים את המודל דרך ספריות כמו sentence-transformers או transformers ישירות בקוד שלכם. הקבצים שוקלים 5.0 ג'יגה בייט בדיוק float16, כך שמדובר במשקל קל יחסית שרץ בקלות על כרטיס מסך בודד של שרת פשוט, או אפילו על מעבד חזק אם קצב השאילתות שלכם נמוך. תמיכה בספריית transformers.js מאפשרת להריץ אותו גם בסביבות מבוססות ג'אווהסקריפט.

אם יש לכם שרת זמין עם כמה גיגה פנויים בזיכרון, שווה להריץ אותו עצמאית ולחסוך זמני השהיה ותלות ברשת. אם אתם בונים שירות בלי תשתית שרתים קבועה או צריכים רק ניסוי מהיר, קריאה ל־API תחסוך את כאב הראש של תחזוקת הברזלים.

ollama run hf.co/mixedbread-ai/mxbai-embed-large-v1:F16

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

21 קבצים במאגר, 5.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx1.3 GB
• openvino/openvino_model.bin1.3 GB
• model.safetensors670.3 MB
• gguf/mxbai-embed-large-v1-f16.gguf669.6 MB
• onnx/model_fp16.onnx668.8 MB
• onnx/model_quantized.onnx337.0 MB
• openvino/openvino_model_qint8_quantized.bin336.8 MB
• openvino/openvino_model_qint8_quantized.xml1.3 MB
• tokenizer.json711.4 KB
• openvino/openvino_model.xml707.3 KB
• vocab.txt231.5 KB
• README.md114.3 KB
• LICENSE10.8 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.2 KB
• special_tokens_map.json695 B
• config.json677 B
• 1_Pooling/config.json297 B
• config_sentence_transformers.json266 B
• modules.json229 B
• sentence_bert_config.json53 B

הרישיון

הקוד והמשקולות משוחררים תחת רישיון apache-2.0. הרישיון מתיר שימוש מסחרי מלא, שינוי של המודל והפצה שלו בתוך מוצרים סגורים, בלי צורך לחשוף את קוד המקור שלכם. התנאי היחיד הוא שמירה על הצהרת זכויות היוצרים של היוצרים המקוריים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗