GPT
Q

Qwen3-Reranker-0.6B-seq-cls

קוד פתוח

tomaarsenapache-2.02025-06-06

  • sentence-transformers
  • safetensors
  • qwen3
  • text-classification
  • transformers

גרסת סיווג רצף קומפקטית לדירוג מחדש של תוצאות חיפוש, עם חלון של עשרות אלפי טוקנים ותמיכה בהוראות מותאמות.

  • 596Mפרמטרים
  • 40,960טוקנים בהקשר
  • 2.2 GBמשקל הקבצים
  • 175,504הורדות בחודש

מה זה

מדובר בהמרה של מודל הריראנקינג מבית Qwen לארכיטקטורה של סיווג רצף, מה שמאפשר להריץ אותו בנוחות דרך ספריות סטנדרטיות בלי להסתבך עם לוגיקת יצירת טקסט מיותרת. הוא שוקל פחות מגיגה וחצי של פרמטרים ומתמקד במשימה אחת בלבד, לקחת שאילתה ורשימת מסמכים ולהחזיר ציון התאמה מדויק עבור כל צמד.

היתרון המרכזי שלו מול מתחרים באותו סדר גודל הוא השילוב בין גודל צנוע להבנה של טקסטים ארוכים במיוחד ותמיכה ביותר ממאה שפות וקוד. במבחני הביצועים של היוצרים הוא עוקף מודלים מקבילים כמו bge-reranker-v2-m3 ו־gte בחיפוש רב־לשוני וחיפוש קוד, עם ציון של 73.42 ב־MTEB-Code לעומת פחות מ־60 אצל המתחרים.

המודל רגיש להנחיות מערכת, והוספת הוראה מותאמת לשאילתה מעלה את איכות הדירוג שלו בעד חמישה אחוזים. זה כלי יעיל מאוד לשלב השני בצינורות אחזור, שבו רוצים דיוק של מודל שפה מלא בלי לשלם בזמני תגובה כבדים.

מתאים ל

  • סינון תוצאות במערכות RAG

    דירוג מחדש של עשרות פסקאות שנשלפו ממאגר וקטורי כדי להגיש למודל הגנרטיבי רק את המידע הרלוונטי ביותר.

  • חיפוש בקוד מקור

    איתור קטעי קוד מדויקים לפי תיאור מילולי, תחום שבו המודל מציג יתרון מובהק על פני חלופות בגודל דומה.

  • חיפוש במסמכים ארוכים

    התמודדות עם טקסטים טכניים ודוחות מרובי עמודים בזכות תמיכה מובנית בהקשר של עשרות אלפי טוקנים.

איפה זה נופל

למרות שהוא נבנה לרב־לשוניות, מפתחי המודל מציינים במפורש שתהליך האימון התבסס על הוראות באנגלית, ולכן הנחיות בשפות אחרות מניבות תוצאות פחות טובות ומחייבות בדיקה מוקדמת. בנוסף, המבחנים שפורסמו בוצעו רק על מאה התוצאות הראשונות שהוחזרו ממודל ההטמעה של אותה סדרה, כך שאי אפשר להסתמך על המספרים בעיניים עצומות אם שלב השליפה הראשוני שלכם משתמש במנוע חיפוש לקסיקלי פשוט או במודל וקטורי שונה לחלוטין.

שאלות
נפוצות

האם כדאי להגדיר לו הוראה בעברית כדי לדייק את החיפוש?

היוצרים ממליצים לכתוב את ההוראות באנגלית גם כשמחפשים בטקסטים בשפות אחרות, מכיוון שהאימון שלו נשען בעיקר על אנגלית. אם תזינו הוראה בעברית, הביצועים עלולים להישחק ביחס להנחיה מקבילה באנגלית.

מה ההבדל המעשי בין המודל הזה לגרסה המקורית של Qwen?

הגרסה הזו הומרה לתצורת סיווג רצף רגילה, מה שמאפשר להריץ אותה ישירות דרך ספריות כמו sentence-transformers בלי צורך בהגדרות מיוחדות. המשקלים והיכולות נשארים זהים למקור, אך אופן ההרצה בקוד פשוט ומוכר יותר למפתחים.

איך מריצים

בזכות גודל של 596 מיליון פרמטרים ומשקל קבצים של 2.2 גיגהבייט, אפשר להריץ אותו בקלות על מעבד גרפי ביתי פשוט עם 8 גיגה זיכרון, ואפילו על מעבד מרכזי חזק אם כמות הבקשות נמוכה. שימוש בגרסה הזו דרך sentence-transformers פשוט במיוחד וחוסך הגדרות תשתית מסובכות, בתנאי שחבילת transformers שלכם מעודכנת לפחות לגרסה 4.51.0 כדי למנוע שגיאות זיהוי של הארכיטקטורה.

אם אתם צריכים לדרג אלפי מסמכים בשנייה עבור מאות משתמשים במקביל, שווה לשקול פתרון מנוהל או קריאה לשירות מרוחק. הרצה עצמית כאן משתלמת במיוחד כשרוצים לשמור על המידע בתוך הרשת המקומית או לחסוך עלויות תעבורה וקריאות חוזרות במוצרים קטנים ובינוניים.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("tomaarsen/Qwen3-Reranker-0.6B-seq-cls")
v = m.encode(["שלום עולם"])

הקבצים

9 קבצים במאגר, 2.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0, שמאפשר שימוש מסחרי מלא, שינוי של הקוד והמשקלים והפצה חופשית בתוך מוצרים סגורים. התנאי העיקרי הוא שמירת הודעת זכויות היוצרים והרישיון המקורי, בלי חובת פתיחה של הקוד שפיתחתם מסביבו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗