jina-embeddings-v3

מה זה

במקום לחתוך מאמרים ארוכים לפסקאות קטנות, המודל הזה מעבד מסמכים שלמים של מעל שמונת אלפים טוקנים בזכות ארכיטקטורת XLMRobertaModel עם 24 שכבות ודיוק bfloat16. הוא שוקל 572 מיליון פרמטרים, גודל שמאפשר לו להחזיק רמת דיוק גבוהה בלי לדרוש שרתים מנופחים. הוא כולל תמיכה מובנית ברשימה עצומה של שפות, כולל עברית, יידיש וערבית.

במבחני אחזור מידע של MTEB בפולנית הוא מציג תמונה ברורה. במשימות מסוג ArguAna הוא מחזיר דיוק NDCG של 50.1 בטופ 10 ותופס שמונים אחוז מהתוצאות הרלוונטיות, אבל במאגרי ידע כמו DBPedia הדיוק נופל ל־34.8. משימות של דמיון סמנטי טהור מציגות ציוני מתאם ספירמן של 43.4 בלבד, מה שמלמד שהחוזק העיקרי שלו נמצא באחזור מידע קלאסי ולא בהשוואה מופשטת בין משפטים בודדים.

מתאים ל

• חיפוש מסמכים ארוכים

  חלון של 8,194 טוקנים מאפשר להמיר חוזים, מאמרים ותקנונים לווקטור אחד בלי לחתוך אותם לפירורים.

• מערכות אחזור רב לשוניות

  תמיכה בעשרות שפות כולל עברית מאפשרת לבנות אינדקס חיפוש שמתמודד עם טקסט מעורב.

• שלב ראשון במנוע חיפוש

  שליפת עשרות תוצאות ראשוניות במהירות גבוהה בזכות recall של שמונים אחוז בטופ עשר במבחני שליפה.

איפה זה נופל

הנקודה החלשה ביותר מתגלה בציוני הדמיון הסמנטי, שעומדים על 43.4 בלבד במבחני STS, נתון בינוני למדי לקטגוריה הזו. בנוסף, למרות שהמודל מסומן כתומך בעברית, תוצאות הבדיקה הרשמיות שמפורטות בכרטיס נמדדו על שפות אחרות כמו פולנית וסינית, כך שחובה לבחון את הביצועים מול דאטה מקומי לפני שמסתמכים עליו. משימות אחזור מורכבות שמצריכות דיוק מדויק בתוצאה הראשונה הניבו MAP נמוך של 7.04 בבסיסי ידע מסוימים.

אותה משפחה

jina-embeddings יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים עומד על 5.4 גיגה בייט, כך שאפשר להריץ אותו בקלות על כרטיס מסך ביתי בודד עם 8 עד 12 גיגה זיכרון דרך ספריית transformers. בדיוק bfloat16 הוא רץ מהר ולא חונק את המשאבים, אבל עיבוד של טקסטים שמתקרבים לקצה חלון ההקשר דורש נפח זיכרון משמעותי יותר בזמן הריצה עצמה.

אם אתם בונים שירות שמעבד רק כמה עשרות מסמכים ביום, עדיף להשתמש בקריאות רשת לשירותי ענן חיצוניים ולחסוך תחזוקת שרתים. הרצה עצמאית שווה את ההשקעה רק כשיש לכם שטף קבוע של מידע, צורך בפרטיות מוחלטת של הנתונים, או כשאתם לא רוצים לשלם על כל קריאה.

from transformers import pipeline

pipe = pipeline("feature-extraction", model="jinaai/jina-embeddings-v3")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 5.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx_data2.3 GB
• onnx/model_fp16.onnx1.1 GB
• pytorch_model.bin1.1 GB
• model.safetensors1.1 GB
• tokenizer.json17.1 MB
• onnx/model.onnx1.5 MB
• README.md734.3 KB
• custom_st.py8.9 KB
• config.json1.8 KB
• .gitattributes1.7 KB
• tokenizer_config.json1.1 KB
• special_tokens_map.json964 B
• config_sentence_transformers.json464 B
• modules.json378 B
• 1_Pooling/config.json192 B

הרישיון

הקוד והמשקולות מפורסמים תחת רישיון CC-BY-NC-4.0. המשמעות ברורה וחדה, אסור להשתמש במודל הזה בשום מוצר מסחרי, שירות בתשלום או פעילות שמניבה רווח. השימוש מוגבל למחקר, פיתוח פנימי והתנסות בלבד, אלא אם תסדירו רישיון נפרד מול היוצרים.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗