snowflake-arctic-embed-l-v2.0

מה זה

מדובר במודל וקטורי מבוסס ארכיטקטורת XLM-RoBERTa עם 568 מיליון פרמטרים. הוא מיועד לתרגם קטעי טקסט לייצוג מספרי כדי לחשב דמיון סמנטי, לסווג מידע או לשמש שלב שליפה עבור מערכות RAG. היתרון המשמעותי שלו לעומת מודלים סטנדרטיים בקטגוריה הוא חלון הקשר נדיב של 8,194 טוקנים, שמאפשר להזין מסמכים מלאים ולא רק פסקאות קצרות ומקוטעות.

התוצאות במבחני MTEB מציגות פערים ברורים בהתאם למשימה. במשימות דמיון סמנטי כמו BIOSSES הוא רושם מתאם ספירמן של 87.2, ובסיווג כוונות בנקאיות הוא פוגע ב־81.8 אחוזי דיוק. מנגד, במשימות אחזור טיפוסיות הוא מציג ביצועים סבירים אך לא מבריקים, כמו ציון של 59.1 במבחן ArguAna ו־55.8 בחיפוש שאלות טכניות.

מתאים ל

• חיפוש סמנטי למסמכים ארוכים

  חלון של 8,194 טוקנים מאפשר להכניס חוזים ודוחות שלמים בלי לחתוך אותם לפירורים.

• שליפת מידע היברידית בעברית

  התמיכה בעברית מובנית בבסיס המודל ומתאימה למנועי חיפוש פנים ארגוניים.

• מיון וסינון פניות לקוחות

  המודל השיג מעל 81 אחוזי דיוק בסיווג שאלות קצרות בתחום הבנקאות.

איפה זה נופל

החולשה העיקרית נראית בדירוג עדין וסיווג מורכב. במבחן סיווג ביקורות אמזון הוא מגיע לדיוק חלש של 34.9 אחוזים בלבד. הוא לא מחליף מודלי Reranking ייעודיים, ובמשימות אחזור מורכבות יש מקרים שבהם הדיוק יורד ככל שמבקשים רשימת תוצאות ארוכה יותר. בנוסף, חלון של שמונת אלפים טוקנים בדיוק המקורי דורש משאבי מחשוב כבדים, וטקסטים ארוכים במיוחד יאטו את קצב התגובה בצורה מורגשת.

אותה משפחה

snowflake-arctic-embed-l יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ אותו מקומית צריך לקחת בחשבון את משקל הקבצים, שעומד על כמעט עשרה גיגהבייט בדיוק מלא של float32. מומלץ להשתמש במעבד גרפי עם לפחות 16 גיגהבייט זיכרון כדי להחזיק את המודל ולעבד אצוות של טקסטים ארוכים בלי לקבל שגיאות זיכרון. הטעינה נעשית ישירות דרך ספריית sentence-transformers הרגילה בפייתון.

אם כל מה שאתם צריכים זה שאילתות קצרות וספוראדיות בלי דרישות אבטחה מקומיות, החזקת שרת ייעודי למודל כזה תעלה יותר מקריאה לשירות מנוהל. הרצה עצמית שווה את המאמץ רק כשיש נפח תעבורה קבוע, כשעובדים ברשת סגורה, או כשחייבים חלון הקשר מלא על מסמכים רגישים.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("Snowflake/snowflake-arctic-embed-l-v2.0")
v = m.encode(["שלום עולם"])

הקבצים

22 קבצים במאגר, 9.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors2.3 GB
• onnx/model.onnx_data2.3 GB
• onnx/model_q4.onnx1.2 GB
• onnx/model_bnb4.onnx1.2 GB
• onnx/model_fp16.onnx1.1 GB
• onnx/model_q4f16.onnx700.1 MB
• onnx/model_int8.onnx569.7 MB
• onnx/model_quantized.onnx569.7 MB
• onnx/model_uint8.onnx569.7 MB
• tokenizer.json17.1 MB
• sentencepiece.bpe.model5.1 MB
• onnx/model.onnx702.3 KB
• onnx/model_O4.onnx452.3 KB
• README.md251.0 KB
• README.MD250.3 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.3 KB
• special_tokens_map.json964 B
• config.json818 B
• modules.json349 B
• 1_Pooling/config.json297 B
• config_sentence_transformers.json203 B

הרישיון

הקוד והמשקולות מופצים תחת רישיון Apache 2.0. זהו רישיון פתוח שמתיר שימוש מסחרי מלא, שינוי של המודל והטמעה שלו במוצרים סגורים בלי חובת פתיחת קוד מקור. התנאי היחיד הוא שמירה על הצהרת זכויות היוצרים ועותק הרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗