snowflake-arctic-embed-l

מה זה

מדובר במודל שיכוך בגודל 334 מיליון פרמטרים מבית Snowflake, שבנוי על 24 שכבות של BertModel. הוא נועד להמיר טקסטים לוקטורים עבור משימות דמיון סמנטי, אחזור ודירוג מחדש. הפלט שלו נוצר כדי לשמש מנועי חיפוש ומערכות שליפת מידע.

במבחני ביצועים הוא מציג תוצאות מעורבות שתלויות מאוד בתחום. במשימות דמיון סמנטי ממוקד כמו BIOSSES הוא מגיע למתאם פירסון של 87.4, ובשליפת נתונים מ־ArguAna הוא משיג Recall של 87.3 בעשירייה הראשונה. לעומת זאת, בסיווג ביקורות מרובות ב־Amazon הוא צונח לדיוק של 36.7 בלבד. המשמעות היא שהחוזק שלו הוא בהשוואת משפטים ואחזור, ולא בסיווג רב־מחלקתי של טקסטים מורכבים.

מתאים ל

• שליפת מידע במערכות RAG

  הוא מציג Recall גבוה בחיפוש מסמכים טכניים קצרים, מה שמתאים לשלב השליפה הראשוני.

• איתור שאלות כפולות

  המודל מגיע ל־MRR של 75 במאגר שאלות טכניות, ולכן הוא יעיל בזיהוי כפילויות בפורומים.

• השוואת דמיון סמנטי

  מתאם גבוה במבחני STS מאפשר לו להבדיל בין ניסוחים שונים של אותו רעיון באנגלית.

איפה זה נופל

חלון ההקשר נעצר ב־512 טוקנים, מגבלה קשיחה של ארכיטקטורת BERT. אם תנסו להכניס מאמרים, מסמכים משפטיים ארוכים או תמלילים בלי לחתוך אותם לפסקאות קצרות, המידע מעבר לגבול פשוט ייזרק. בנוסף, כל המדידות והבדיקות שפורסמו נעשו באנגלית בלבד. אין שום תיעוד או בדיקה לגבי תמיכה בעברית, ולכן רוב הסיכויים שהוא יתקשה מאוד או ייכשל לחלוטין בניתוח טקסט מקומי.

אותה משפחה

snowflake-arctic-embed-l יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers בפייתון. קבצי המודל שוקלים 4.6 גיגה־בייט בדיוק float32, מה שאומר שהוא דורש לפחות כרטיס מסך בסיסי עם 6 עד 8 גיגה זיכרון כדי לעבוד בצורה יציבה ובקצב הגיוני. על מעבד רגיל הוא ירוץ, אבל החישוב ב־24 שכבות יהיה אטי מדי לסביבת ייצור.

אם אתם צריכים לאנדקס מיליוני מסמכים במהירות ואין לכם שרת עם מאיץ גרפי ייעודי, עדיף להשתמש בנקודת קצה מנוהלת דרך ענן במקום להחזיק תשתית כבדה.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("Snowflake/snowflake-arctic-embed-l")
v = m.encode(["שלום עולם"])

הקבצים

19 קבצים במאגר, 4.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx1.3 GB
• model.safetensors1.3 GB
• onnx/model_fp16.onnx668.8 MB
• onnx/model_int8.onnx337.0 MB
• onnx/model_quantized.onnx337.0 MB
• onnx/model_uint8.onnx337.0 MB
• onnx/model_q4.onnx317.7 MB
• onnx/model_bnb4.onnx298.8 MB
• tokenizer.json711.6 KB
• vocab.txt231.5 KB
• README.md85.4 KB
• .gitattributes1.5 KB
• tokenizer_config.json1.4 KB
• config.json704 B
• special_tokens_map.json695 B
• modules.json349 B
• 1_Pooling/config.json297 B
• config_sentence_transformers.json252 B
• sentence_bert_config.json107 B

הרישיון

המודל מופץ תחת רישיון apache-2.0. זהו רישיון מתירני שמאפשר שימוש מסחרי מלא, שינוי של המשקולות ושילוב המודל במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗