GPT
Z

zerank-2-reranker

קוד פתוח

zeroentropyapache-2.02025-11-19

  • sentence-transformers
  • safetensors
  • qwen3
  • finance
  • legal

מודל דירוג תוצאות מבוסס קוד פתוח עם 4 מיליארד פרמטרים. הוא מיועד למי שרוצה ביצועים שעוקפים שירותים מסחריים סגורים בלי להוציא מידע רגיש מהשרת.

  • 4Bפרמטרים
  • 40,960טוקנים בהקשר
  • 7.5 GBמשקל הקבצים
  • 637,597הורדות בחודש

מה זה

מדובר במודל CrossEncoder שנבנה על בסיס Qwen3-4B ונועד למשימות דירוג מחדש במנועי חיפוש ומערכות RAG. הרעיון הוא לקחת רשימת מסמכים ראשונית שחזרה מחיפוש וקטורי רגיל, ולהעריך מחדש את מידת ההתאמה המדויקת של כל מסמך לשאילתה המקורית.

הייחוד כאן הוא התחרות הישירה מול מודלים קנייניים. לפי מדדי NDCG@10 שמציגים המפתחים, הוא עוקף חלופות סגורות כמו Cohere rerank-3.5 ו־Gemini 2.5 Flash בתחומים מורכבים כמו קוד, משפטים, מדע ורפואה. המקום היחיד במבחנים שבו הוא נשאר טיפה מאחור הוא פיננסים, שם ג'מיני קיבל ציון מעט גבוה יותר.

מתאים ל

  • שיפור שלב השליפה ב־RAG

    דירוג מחדש של מאה התוצאות הראשונות ממאגר וקטורי כדי להזין למודל השפה רק את המידע הרלוונטי ביותר.

  • חיפוש בקוד ובתיעוד טכני

    המודל הציג ציונים גבוהים במיוחד בטקסטים של תכנות ומדע בהשוואה לחלופות סגורות.

  • מערכות בעלות רגישות לפרטיות

    הרצה מקומית מלאה של שלב הדירוג בארגונים שלא יכולים לשלוח טקסטים ל־Cohere או לגוגל.

איפה זה נופל

המודל תומך רשמית באנגלית בלבד. אם הדאטה שלכם בעברית, קחו בחשבון שהוא לא נבדק על זה ולא מוגדר לתמוך בה. חלון ההקשר דורש תשומת לב, המטאדאטה מציין 40,960 טוקנים אבל בטקסט עצמו מדברים על 32,768, כך שצריך לבדוק בפועל איפה הגבול נחתך.

בנוסף, מודל של 4 מיליארד פרמטרים שרץ בתצורת CrossEncoder הוא איטי וכבד משמעותית בהשוואה לחיפוש וקטורי רגיל. אסור לזרוק אליו אלפי מסמכים בבת אחת, אלא רק את העשרות או המאות המובילות.

שאלות
נפוצות

איך המודל מחזיר את ציוני הדירוג?

הגרסה העדכנית מחזירה logits גולמיים ולא הסתברות בין 0 ל־1. הסדר היחסי נשמר לחלוטין לצורך מיון, אבל אם רוצים להציג ציון מנורמל למשתמש צריך להפעיל סיגמואיד על התוצאה חלקי 5.

האם הוא מתאים לחיפוש ראשוני של מסמכים?

לא. מודל כזה בודק זוגות של שאילתה ומסמך יחד, תהליך חישובי כבד בהרבה ממודל הטמעה. הוא מיועד לרוץ אך ורק על קבוצה מצומצמת שכבר נשלפה על ידי מנוע חיפוש רגיל.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers בלי הגדרות מסובכות, כשהפלט מגיע כציוני logit גולמיים שניתן להמיר להסתברות. הקבצים שוקלים 7.5 גיגה, מה שאומר שכרטיס מסך בודד עם 16 גיגה של VRAM יריץ אותו בלי בעיה לצד שאר התשתית.

אם אתם צריכים לאפסן את המידע אצלכם בגלל אבטחה או רגולציה, שווה להרים אותו עצמאית. למי שאין כרטיס מסך זמין או שצריך רק קריאות בודדות פה ושם, ZeroEntropy מציעים אותו גם דרך נקודת קצה של API וגם ב־AWS Marketplace.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("zeroentropy/zerank-2-reranker")
v = m.encode(["שלום עולם"])

הרישיון

הרישיון הוא Apache 2.0 מלא. מותר להשתמש בו לצרכים מסחריים, לשלב אותו במוצרים פנימיים או מוצרים שנמכרים ללקוחות, ולשנות את הקוד והמשקולות. התנאי היחיד הוא שמירת הקרדיט והודעת הרישיון המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗