jina-reranker-v3.5

מה זה

מדובר במודל שפותח על בסיס Qwen3-0.6B ומיועד לשלב השני של מערכות אחזור מידע. הוא מקבל שאילתה ועשרות מסמכים יחד, מעבד אותם במעבר חישובי יחיד, ומחזיר את הרשימה ממוינת לפי רלוונטיות. המבנה שלו משלב שכבות קשב מקומיות עם שכבות קשב גלובליות, מה שמאפשר לו לטפל ברצפים ארוכים ביעילות חישובית גבוהה יותר בהשוואה לגרסה הקודמת שלו.

במבחני ביצועים, הדגם הזה עוקף מודלים גדולים ממנו בהרבה, כולל דגמי 4B של Qwen ודגמי 1.5B של mxbai במבחן BEIR עם תוצאה של 63.20. השיפור המרכזי מורגש בנתונים מובנים עם קפיצה של כמעט עשרים וחמישה אחוזים במבחן Struct-IR מול v3, וכן בטקסטים משפטיים ורב לשוניים. הוא נותן דיוק של מודל ענק במעטפת של קובץ ששוקל בקושי ג'יגה בודד.

מתאים ל

• סינון תוצאות RAG

  דירוג מחדש של עשרות הפסקאות הראשונות שהוחזרו ממסד נתונים וקטורי כדי להגיש למודל השפה רק את המידע המדויק ביותר.

• חיפוש בטבלאות ומסמכים מובנים

  התאמה לשאילתות מעל נתונים חצי מובנים הודות לשיפור של עשרות אחוזים במבחני Struct-IR לעומת הגרסה הקודמת.

• שדרוג מנועי חיפוש קיימים

  החלפת שלב הדירוג הסופי במערכות חיפוש טקסטואליות בלי להכביד על זמני התגובה בזכות הרצה במעבר חישובי בודד.

איפה זה נופל

למרות הציונים הגבוהים ב־BEIR, במבחנים רב לשוניים כמו MIRACL ומבחני טקסט מורכבים כמו RTEB הוא עדיין מפגר אחרי דגמי 4B מלאים, בפער של יותר משישה אחוזים בנתונים מובנים. מעבר לזה, המודל דורש trust_remote_code כדי לרוץ מקומית, מה שמהווה נקודת תורפה בסביבות ייצור מאובטחות שמגבילות הרצת קוד צד שלישי לא בדוק. ביצועי השפה העברית לא נמדדו בנפרד בכרטיס המודל ומחייבים בדיקה מקדימה לפני שמשלבים אותו במערכת מקומית.

אותה משפחה

jina-reranker יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים את המשקלים ישירות דרך ספריית transformers הרגילה בפייתון עם תמיכה בקוד מרוחק, וקוראים לפונקציית rerank המובנית. הקבצים שוקלים כ־1.1 גיגה בייט בפורמט bfloat16, כך שכרטיס מסך בסיסי או מחשב מקומי עם מעבד סביר יכולים להריץ אותו בקלות בלי לדרוש שרתים ייעודיים יקרים. קיימות גם גרסאות GGUF ו־MLX למי שמריץ על מעבדי אפל או חומרה מוגבלת.

אם נפח השאילתות שלכם נמוך מאוד או שאתם לא רוצים לתחזק תשתית, החברה מציעה שירות ענן ב־API ישיר שמחזיר ציוני התאמה בפורמט זהה לגרסה הקודמת. אם אתם עובדים עם עומס קבוע ומחפשים זמני שיהוי מינימליים, עדיף להחזיק אותו עצמאית.

from transformers import pipeline

pipe = pipeline("text-ranking", model="jinaai/jina-reranker-v3.5")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 1.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors1.2 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• tokenizer_config.json10.7 KB
• modeling.py10.4 KB
• README.md6.7 KB
• .gitattributes1.6 KB
• config.json1.5 KB
• added_tokens.json795 B
• special_tokens_map.json777 B
• generation_config.json202 B

הרישיון

הרישיון הוא cc-by-nc-4.0, מה שאומר שמותר להשתמש בו לניסויים, מחקר ופיתוח פנימי בלבד, אך אסור לשלב אותו במוצר מסחרי או לתת דרכו שירות בתשלום. חברות שרוצות להשתמש בו בסביבה עסקית נדרשות לפנות לחברת jina כדי לקנות רישיון מסחרי או להשתמש ב־API הרשמי שלהם.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗