GPT
הוספת כלי
G

granite-embedding-english-r2

קוד פתוח

ibm-graniteapache-2.02025-07-17

  • sentence-transformers
  • pytorch
  • safetensors
  • modernbert
  • feature-extraction

מודל שיעבוד קל משקל של יבמ שמתמודד עם טקסטים באורך שמונה אלפים טוקנים. מתאים למי שחייב אימון על דאטה חוקי ונקי לתביעות מסחריות.

  • 149Mפרמטרים
  • 8,192טוקנים בהקשר
  • 572 MBמשקל הקבצים
  • 50,454הורדות בחודש

מה זה

מדובר במודל צפיד מסוג bi-encoder שמייצר וקטורים בגודל 768 ומבוסס על ארכיטקטורת ModernBERT. הוא מחליף את גרסת ה־125 מיליון הקודמת ומוסיף תמיכה מובנית בטקסטים ארוכים במיוחד בלי לחתוך אותם אחרי כמה מאות טוקנים. היתרון המרכזי שיבמ דוחפת כאן הוא מקורות המידע. הם נמנעו במכוון מדאטה פופולרי כמו MS-MARCO בגלל מגבלות רישוי, והשתמשו רק במאגרים עם היתר מסחרי מובהק ובמידע סינתטי.

במבחני הביצועים הוא מקבל ציון ממוצע של 59.5, כשהחוזק הבולט שלו מופיע בשיחות מרובות שלבים עם תוצאה של 57.6 לעומת פחות מ־40 במודלים מקבילים כמו gte-base או bge-base. הוא גם עוקף אותם בחיפוש על מסמכים ארוכים עם 67.8 במבחן LongEmbed. מצד שני, בשליפת קוד הוא מגיע ל־54.8, שזה שיפור מול הגרסה הקודמת אבל נמוך משמעותית מ־gte-modernbert-base שמגרד שם את ה־71.5.

מתאים ל

  • חיפוש בשיחות שירות ארוכות

    מצטיין במיוחד בשליפת מידע מהיסטוריית צ'אט מרובת שלבים בזכות ביצועים גבוהים במבחן MTRAG.

  • אינדוקס מסמכים טכניים באנגלית

    תומך בקבצים שלמים עד שמונה אלפים טוקנים בלי צורך בחלוקה מלאכותית לפסקאות קצרות.

  • שליפה מטבלאות ודוחות עסקיים

    מציג תוצאה של מעל 78 נקודות במבחני שליפת נתונים מתוך מבני טבלאות מורכבים.

איפה זה נופל

המודל אומן אך ורק על השפה האנגלית. אל תנסו להריץ עליו טקסטים בעברית כי הוא פשוט לא מיועד לזה ולא ייצר תוצאות הגיוניות. מעבר לזה, כל טקסט שעובר את תקרת 8,192 הטוקנים ייחתך אוטומטית. אם העבודה שלכם מתמקדת בחיפוש קוד, יש מתחרים באותו גודל שמציגים תוצאות עדיפות בהרבה.

שאלות
נפוצות

האם המודל מתאים לאפליקציה שמחפשת מידע בעברית?

לא. המודל אומן על אנגלית בלבד ולא מכיל תמיכה בשפות אחרות. עבור עברית תצטרכו לחפש מודל רב לשוני ייעודי.

מה עדיף לפרויקט חדש, המודל הזה או גרסת ה־47M?

אם אתם מוגבלים במקום במסד הנתונים הוקטורי או צריכים מהירות מקסימלית, גרסת ה־47M מייצרת וקטור בחצי מהגודל. המודל המלא עדיף בבירור בכל משימה של שיחה מורכבת או מסמכים ארוכים.

איך מריצים

המשקל הכולל של הקבצים עומד על 572 מגה בייט בלבד. אפשר להריץ אותו ישירות דרך הספרייה sentence-transformers או ישירות עם קוד פייטורץ' פשוט, והוא נכנס בקלות לזיכרון של כרטיס מסך בסיסי או אפילו רץ על מעבד רגיל בשרת פשוט. בכרטיס H100 בודד יבמ מדדו מהירות של 144 מסמכים לשנייה בחלוקה למקטעים של 512 טוקנים.

אם אתם צריכים ביצועים מהירים יותר ומוכנים לוותר על קצת דיוק, קיימת גרסת סמול עם 47 מיליון פרמטרים שמגיעה לקצב של 199 מסמכים לשנייה ופולטת וקטורים של 384 בלבד. בגלל המשקל הנמוך, אין שום סיבה אמיתית לשלם על API חיצוני אלא אם אין לכם בכלל תשתית שרתים משלכם.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("ibm-granite/granite-embedding-english-r2")
v = m.encode(["שלום עולם"])

הקבצים

11 קבצים במאגר, 572 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0 מלא. מותר להשתמש בו לצרכים מסחריים, לשלב אותו במוצרים סגורים, לשנות את הקוד ולהפיץ אותו חופשי. התנאי היחיד הוא שמירת הצהרת זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗