GPT
H

harrier-oss-v1-27b

קוד פתוח

microsoftmit2026-03-30

  • sentence-transformers
  • safetensors
  • gemma3_text
  • feature-extraction
  • mteb

microsoft עומדים גם מאחורי Sho, ויש עליו סקירה כאן.

מודל שיעבוד טקסט כבד במיוחד שמפיק וקטורים צפופים לחיפוש סמנטי ברמת דיוק גבוהה. הוא פונה למי שצריך תמיכה בריבוי שפות, כולל עברית, ומוכן לשלם במשאבי חומרה.

  • 27Bפרמטרים
  • 131,072טוקנים בהקשר
  • 50.3 GBמשקל הקבצים
  • 6,879הורדות בחודש

מה זה

מדובר במודל שיעבוד טקסט שמבוסס על ארכיטקטורת Gemma3TextModel עם 62 שכבות, שנועד לייצר וקטורים צפופים עבור חיפוש, סיווג, התאמת טקסט מקביל ודירוג מחדש. הפלט שלו רחב במיוחד ועומד על מימד של 5,376, כאשר הדחיסה נעשית באמצעות טוקן אחרון ונרמול L2. הוא אומן בלמידה ניגודית על מאגר נתונים רב לשוני נרחב שתומך ברשימה ארוכה של שפות, ביניהן עברית וערבית.

במבחן Multilingual MTEB v2 הגרסה הזו הגיעה לציון 74.3, לעומת 66.5 בגרסת ה־270M ו־69.0 בגרסת ה־0.6B של אותה סדרה. הפער הזה מראה שהגדלת הפרמטרים מביאה שיפור מובהק בדיוק החיפוש וההבנה הסמנטית על פני עשרות שפות, אבל דורשת תשתית כבדה בהרבה.

מתאים ל

  • איחזור רב לשוני מדויק

    הוא השיג ציון 74.3 במדד MTEB v2 ותומך ישירות בעברית ובשפות נוספות בתוך אינדקס משותף.

  • חיפוש בקבצים ארוכים

    התמיכה בעד 32,768 טוקנים חוסכת פיצול של מסמכים מורכבים לקטעים קטנים.

  • כריית טקסט מקביל ותרגום

    האימון בלמידה ניגודית יועד במפורש למשימות bitext mining בין זוגות שפות שונות.

איפה זה נופל

חובה להצמיד הוראת טקסט לכל שאילתה, אחרת ביצועי המודל יורדים באופן מורגש, כאשר למסמכים עצמם אסור להוסיף הוראה כזו. הממד הווקטורי העצום של 5,376 מעמיס מאוד על נפח האחסון ועל אינדקס בסיס הנתונים הווקטורי שלכם בהשוואה למודלים סטנדרטיים. בנוסף, אף שארכיטקטורת הבסיס מאפשרת חלון טוקנים גדול, כרטיס המודל מגדיר גבול מעשי של 32,768 טוקנים בלבד, ויש הבדלי ביצועים קלים בין גרסאות ספריות שונות.

אותה משפחה

harrier-oss יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם חייבים לנסח הוראה עבור כל שאילתה?

כן, המודל אומן ספציפית לקבל משפט הנחיה קצר יחד עם השאילתה, ובלעדיו הדיוק נפגע. לעומת זאת, את המסמכים במאגר מקודדים כרגיל ללא שום תוספת הוראה.

איך המודל מחשב את הווקטור הסופי של הטקסט?

הוא משתמש בשיטת last-token pooling, שבה הייצוג נלקח מהטוקן האחרון של הרצף שאינו ריפוד. לאחר מכן הווקטור עובר נרמול L2, תהליך שספריית sentence-transformers מבצעת באופן אוטומטי.

איך מריצים

המודל שוקל 50.3 גיגה בייט ומחזיק 27 מיליארד פרמטרים, כך שהרצה מקומית מחייבת שרת ייעודי עם נפח זיכרון גרפי גדול מאוד. טוענים אותו ישירות דרך ספריית sentence-transformers או transformers הרגילה, והוא מפעיל חלון הקשר בפועל של עד 32,768 טוקנים לפי נתוני הבדיקה של היצרן.

אם אין לכם כרטיסי מסך חזקים פנויים לטובת שירות וקטורים בלבד, עדיף להשתמש בגרסאות הקטנות יותר של הסדרה כמו ה־0.6B או להסתמך על שירות מנוהל חיצוני. הפעלת מודל כזה בייצור דורשת תחזוקת תשתית יקרה שלא תמיד מצדיקה את תוספת הדיוק ביחס לחלופות קלות.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("microsoft/harrier-oss-v1-27b")
v = m.encode(["שלום עולם"])

הרישיון

המודל משוחרר ברישיון mit. הרישיון הזה מתיר שימוש מסחרי חופשי, שינוי הקוד והפצה פנימית או מסחרית בתוך מוצר, ללא תשלום תמלוגים, ובלבד ששומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗