SFR-Embedding-2_R

מה זה

המודל הזה בנוי על גבי MistralModel ומתמחה בהפקת וקטורים איכותיים מטקסטים ארוכים במיוחד באנגלית. היכולת המרכזית שלו היא עיבוד של עד 32,768 טוקנים בהרצה אחת, מה שפותר את הצורך לחתוך מאמרים טכניים או מסמכים משפטיים למקטעים זעירים שמאבדים הקשר.

בבדיקות MTEB הוא מפגין יכולת שליפה ודיוק יוצאי דופן במשימות ממוקדות. למשל, במבחן FEVER הוא מגיע לדיוק שליפה של 88.2 אחוז כבר בתוצאה הראשונה, ובמבחן HotpotQA הציון עומד על 85.4 אחוז. עם זאת, במאגרים מורכבים כמו NFCorpus הדיוק הראשוני צונח לאזור ה־53 אחוז, כך שהביצועים תלויים מאוד בסוג השפה ובמבנה המידע שאתם סורקים.

מתאים ל

• סריקת מסמכים ארוכים באנגלית

  חלון של 32 אלף טוקנים מאפשר להמיר חוזים או מאמרים שלמים לווקטור יחיד בלי פירוק למקטעים.

• אימות עובדות ומחקר

  התוצאות במבחן FEVER מראות דיוק גבוה מאוד באיתור מקורות רלוונטיים לשאלות ספציפיות.

• חיפוש שאלות ותשובות מורכב

  מבנה המודל מתאים לשליפת תשובות מתוך מאגרי דיונים טכניים באנגלית עם הקשר רחב.

איפה זה נופל

הבעיה הבולטת הראשונה היא שהמודל אומן על אנגלית בלבד. אם תזינו טקסטים בעברית תקבלו וקטורים שבורים וחסרי ערך. בנוסף, אף שהחלון ענקי, מודל כזה מייצר זמני תגובה איטיים משמעותית בהשוואה למודלים קטנים של כמה מאות מיליוני פרמטרים, מה שמקשה על שימוש בו בתוך מערכות שדורשות מענה בזמן אמת.

איך מריצים

כדי להריץ מודל עם שבעה מיליארד פרמטרים בדיוק float32, תצטרכו כרטיס גרפי רציני עם לפחות 32 גיגה זיכרון וידאו, בטח אם אתם בונים על ניצול מלא של חלון ההקשר. הקבצים עצמם שוקלים 13.2 גיגה ומנוהלים דרך ספריית sentence-transformers המוכרת.

אם אין לכם שרת ייעודי זמין עם חומרה ברמה הזו, או שאתם מחפשים מענה מיידי בעומס משתנה, החזקה עצמית של המודל תעלה לכם יותר מאשר פנייה לשירותי ענן שמספקים שיכוך לפי קריאה.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("Salesforce/SFR-Embedding-2_R")
v = m.encode(["שלום עולם"])

הקבצים

15 קבצים במאגר, 13.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors5.0 GB
• model-00001-of-00003.safetensors4.9 GB
• model-00003-of-00003.safetensors4.3 GB
• tokenizer.json1.8 MB
• tokenizer.model493.4 KB
• README.md55.4 KB
• model.safetensors.index.json22.2 KB
• .gitattributes1.5 KB
• tokenizer_config.json981 B
• config.json663 B
• special_tokens_map.json624 B
• 1_Pooling/config.json297 B
• modules.json229 B
• config_sentence_transformers.json205 B
• sentence_bert_config.json54 B

הרישיון

המודל מופץ תחת רישיון cc-by-nc-4.0. הרישיון הזה מתיר לכם להוריד, לבדוק ולבצע מחקר, אבל אוסר במפורש כל שימוש מסחרי ישיר או עקיף. אם אתם בונים מוצר שמייצר הכנסות או מיועד ללקוחות משלמים, אי אפשר להשתמש בו.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗