snowflake-arctic-embed-m-v1.5

מה זה

מדובר במודל מבוסס ארכיטקטורת ברט עם מאה ותשעה מיליון פרמטרים, שנועד לייצר וקטורים עבור חיפוש סמנטי והשוואת טקסטים. למרות ממדיו הצנועים, הוא מציג ציוני אחזור גבוהים במבחני השוואה מקובלים, כמו תוצאה של 59.5 במדד NDCG בעשיריה הראשונה במבחן ArguAna, וקרוב ל־54 נקודות במאגר השאלות והתשובות של אנדרואיד.

המספרים האלה מראים שהוא מצליח לדייק באחזור המסמך הרלוונטי כבר בראש הרשימה, ביצועים שמזכירים מודלים כבדים בהרבה. היתרון הגדול מתבטא באיזון שבין מהירות חישוב לדיוק, מה שמאפשר להריץ אותו בהיקפים גדולים בלי לייצר צוואר בקבוק במערכת האחסון והאינדוקס.

מתאים ל

• חיפוש שאלות ותשובות

  מתאים לאיתור שאלות כפולות ומציאת פתרונות קיימים במאגרי ידע טכניים לפי כוונה.

• שליפת פסקאות ל־RAG

  שולף במהירות קטעי מידע קצרים ומדויקים עבור מודלי שפה בלי לייצר זמני המתנה ארוכים.

• מיון והשוואת פניות

  משווה כוונות של משתמשים בזמן אמת ומנתב פניות קצרות למוקדים המתאימים.

איפה זה נופל

המגבלה המרכזית היא אורך הקלט, שעומד על 512 טוקנים בלבד. אי אפשר לדחוף לתוכו מסמכים ארוכים, חוזים או מאמרים שלמים בלי לחתוך אותם לפסקאות קצרות קודם לכן. מעבר לכך, כל תוצאות הבדיקות שפורסמו מתמקדות בטקסטים באנגלית, ולכן חובה לבדוק אותו עצמאית מול מאגר עברי לפני שבונים עליו לחיפוש בשפה המקומית.

אותה משפחה

snowflake-arctic-embed-m יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers או ספריות תואמות כמו transformers.js בדפדפן ובסביבות קצה. המודל שוקל 2.7 גיגה בייט בדיוק מלא, כך שכרטיס מסך בסיסי או אפילו מעבד שרת מודרני מריצים אותו בלי להרגיש מאמץ מיוחד.

אין שום סיבה לשלם לספקי ענן על קריאות רשת כשמדובר בגודל כזה. מריצים מקומית על אותו שרת שבו יושב בסיס הנתונים הווקטורי, חוסכים השהיות ומקבלים שליטה מלאה בעלויות.

ollama run hf.co/Snowflake/snowflake-arctic-embed-m-v1.5:Q8_0

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

25 קבצים במאגר, 2.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• gguf/snowflake-arctic-embed-m-v1.5-f32.gguf436.2 MB
• onnx/model.onnx435.9 MB
• model.safetensors435.6 MB
• gguf/snowflake-arctic-embed-m-v1.5-bf16.gguf219.5 MB
• gguf/snowflake-arctic-embed-m-v1.5-f16.gguf219.5 MB
• onnx/model_fp16.onnx218.2 MB
• onnx/model_q4.onnx149.3 MB
• onnx/model_bnb4.onnx144.0 MB
• gguf/snowflake-arctic-embed-m-v1.5-q8_0.gguf117.9 MB
• onnx/model_int8.onnx110.1 MB
• onnx/model_quantized.onnx110.1 MB
• onnx/model_uint8.onnx110.1 MB
• gguf/snowflake-arctic-embed-m-v1.5-tq2_0.gguf71.5 MB
• gguf/snowflake-arctic-embed-m-v1.5-tq1_0.gguf67.5 MB
• tokenizer.json711.6 KB
• README.md272.7 KB
• vocab.txt231.5 KB
• .gitattributes2.0 KB
• tokenizer_config.json1.4 KB
• config.json772 B
• special_tokens_map.json695 B
• modules.json350 B
• 1_Pooling/config.json297 B
• config_sentence_transformers.json253 B
• sentence_bert_config.json108 B

הרישיון

הפצה תחת רישיון אפאצ'י שתיים אפס, מה שאומר חופש מוחלט לשימוש מסחרי, שינוי הקוד ושילוב במוצרים סגורים. הדרישה היחידה היא לשמור על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗