snowflake-arctic-embed-xs

מה זה

מדובר בארכיטקטורת BertModel רזה עם 6 שכבות בלבד וכ־23 מיליון פרמטרים, מה שהופך אותו לאחד ממודלי הווקטורים הקלים בשוק. המטרה שלו פשוטה: לייצר ייצוג וקטורי לטקסטים קצרים לצורכי אחזור וחיפוש סמנטי, כשהוא נשען על ספריית sentence-transformers ותומך גם בריצה בדפדפן או בסביבות קצה בעזרת transformers.js.

תוצאות המדידה שלו בבנצ'מרק MTEB מציגות פערים חדים לפי סוג המשימה. בסיווג כוונות בנקאיות ב־Banking77 הוא מגיע לדיוק של 76.37337662337663, ובמשימת דמיון סמנטי ב־BIOSSES משיג מתאם פירסון של 85.47489332445278. מנגד, באחזור נתונים מורכבים כמו CQADupstack-mathematica, הציון ב־ndcg_at_10 צונח ל־28.288999999999998, ובסיווג ביקורות אמזון הוא עומד על 35.343999999999994 בלבד. הוא עובד מצוין בדמיון ישיר בין שאלות, אבל מתקשה כשנדרשת הסקת מסקנות עמוקה.

מתאים ל

• סינון שאלות כפולות

  במדד AskUbuntuDupQuestions הוא מגיע לציון mrr של 73.79776194873148 ומספק התאמה מהירה בין שאלות משתמשים.

• אחזור מהיר בפורומים

  המודל מגיע ל־recall_at_100 של 86.23100000000001 בפורומי גיימינג, ומתאים לחיפוש ראשוני בסביבה דלת משאבים.

• סיווג שיחות שירות

  עם דיוק של 76.37337662337663 ב־Banking77, הוא מספיק לזיהוי כוונות בסיסיות של לקוחות בזמן אמת.

איפה זה נופל

המגבלה המרכזית היא חלון הקשר קצר של 512 טוקנים, מה שפוסל אותו מראש לטיפול במסמכים ארוכים או חוזים. בנוסף, 6 שכבות לא מחזיקות מספיק יכולת הפשטה, וזה ניכר בבנצ'מרקים קשים: ב־ArxivClusteringS2S מדד ה־v_measure מגיע ל־32.08725826118282 בלבד, וב־BigPatentClustering הוא יורד ל־21.31174373264835. לא הייתי בונה עליו לניתוח טקסט טכני מפותל, ואין בכרטיס שום עדות ליכולות בעברית.

איך מריצים

המודל שוקל 386 מגה-בייט בסך הכול, ולכן אפשר להריץ אותו כמעט על כל מעבד מקומי בלי צורך בכרטיס מסך ייעודי. טוענים אותו ישירות דרך sentence-transformers בפייתון, והוא עולה לזיכרון בשבריר שנייה בדיוק float32. התמיכה שלו ב־transformers.js מאפשרת גם דחיפה ישירה לקליינט בווב.

אין סיבה אמיתית לפנות ל־API חיצוני בתשלום עבור מודל כזה. העלות החישובית של 23 מיליון פרמטרים אפסית, כך ששרת בסיסי וזול יריץ אותו בקצב גבוה מאוד. שירות מנוהל שווה בדיקה רק אם אתם לא רוצים לתחזק תשתית כלל.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("Snowflake/snowflake-arctic-embed-xs")
v = m.encode(["שלום עולם"])

הקבצים

19 קבצים במאגר, 386 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx90.4 MB
• model.safetensors90.3 MB
• onnx/model_q4.onnx54.6 MB
• onnx/model_bnb4.onnx53.9 MB
• onnx/model_fp16.onnx45.3 MB
• onnx/model_int8.onnx23.0 MB
• onnx/model_quantized.onnx23.0 MB
• onnx/model_uint8.onnx23.0 MB
• tokenizer.json711.6 KB
• vocab.txt231.5 KB
• README.md85.2 KB
• .gitattributes1.5 KB
• tokenizer_config.json1.4 KB
• config.json737 B
• special_tokens_map.json695 B
• modules.json349 B
• 1_Pooling/config.json296 B
• config_sentence_transformers.json252 B
• sentence_bert_config.json107 B

הרישיון

הרישיון לא דווח בעמוד המודל. מבחינה משפטית, היעדר רישיון מוגדר יוצר סיכון ולא מאפשר שימוש מסחרי בטוח במוצר שלכם עד שסנוופלייק יעדכנו את תנאי השימוש.

הרישיון המלא בעמוד המודל ↗