granite-embedding-125m-english

מה זה

מדובר במודל מבוסס רוברטה עם מאה עשרים וחמישה מיליון פרמטרים בלבד, שנועד לייצר ייצוגים וקטוריים של טקסטים קצרים. הוא יושב בספריית sentence transformers הסטנדרטית ונטען ישירות ממנה בלי שום צורך בהתאמות מיוחדות בקוד שלכם.

התוצאות במבחני הביצועים מציגות פער חד. באיתור קוד פייתון במבחן CodeSearchNet הוא רושם recall מרשים של מעל שבעים ושישה אחוזים כבר בתוצאה הראשונה, וציון של שמונים ושבע נקודה שמונה בבדיקת דמיון סמנטי STS. מצד שני, במשימות אחזור כלליות כמו AppsRetrieval הדיוק שלו צונח לשבעה אחוזים בודדים.

מתאים ל

• חיפוש בקוד פייתון

  מציג ציון של שמונים וארבעה אחוזים באחזור קוד, ומעולה לחיפוש סמנטי במאגרי קוד פנימיים.

• זיהוי שאלות כפולות

  מגיע ליותר משבעים ותשעה אחוזי דיוק בסינון שאלות דומות באנגלית בקהילות תמיכה.

• שירותים בקצה הרשת

  שוקל פחות מג'יגה ורץ מקומית על מעבדים פשוטים בלי להסתמך על חיבור לרשת חיצונית.

איפה זה נופל

החולשה העיקרית היא הגבלת השפה. הוא מאומן על אנגלית בלבד, ואם תנסו להזין לו עברית תקבלו תוצאות חסרות משמעות לחלוטין. בנוסף, חלון ההקשר עומד על חמש מאות וארבעה עשר טוקנים, כך שהוא לא מתאים לפסקאות ארוכות או מסמכים שלמים בלי חיתוך אגרסיבי מראש. גם בסיווג ביקורות רב תכליתי הוא מתקשה, עם שלושים ושלושה אחוזי דיוק בלבד במבחן של אמזון.

איך מריצים

אין שום סיבה לשלם לספק ענן על שירות חיצוני כשמדובר במודל כזה. קבצי המשקל תופסים תשע מאות חמישים וחמישה מגה בייט בלבד, כך שתוכלו להריץ אותו אפילו על מחשב נייד ישן ללא כרטיס גרפי, או לדחוף אותו לשרת בסיסי שעולה דולרים בודדים בחודש.

טוענים אותו ישירות דרך ספריית sentence transformers בפייתון בדיוק של bfloat16. הקריאה מתבצעת לוקאלית על המעבד בלי זמני המתנה של רשת ובלי עלות לפי כמות טוקנים.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("ibm-granite/granite-embedding-125m-english")
v = m.encode(["שלום עולם"])

הקבצים

14 קבצים במאגר, 955 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.onnx498.8 MB
• pytorch_model.bin249.3 MB
• model.safetensors249.3 MB
• tokenizer.json2.1 MB
• vocab.json798.3 KB
• README.md466.2 KB
• trainer_state.json450.7 KB
• .gitattributes1.5 KB
• tokenizer_config.json1.3 KB
• special_tokens_map.json957 B
• config.json720 B
• modules.json350 B
• 1_Pooling/config.json191 B
• sentence_bert_config.json54 B

הרישיון

הפצה תחת רישיון אפאצ'י שתיים אפס. מותר להשתמש בו לכל צורך מסחרי, להטמיע אותו בתוך מערכות סגורות, לשנות אותו או למכור שירותים שמבוססים עליו, בלי לשלם תמלוגים. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים של יבמ.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗