GPT
S

snowflake-arctic-embed-m-v2.0

קוד פתוח

Snowflakeapache-2.02024-11-08

  • sentence-transformers
  • onnx
  • safetensors
  • gte
  • feature-extraction

זהו מודל וקטורי בגודל בינוני שתומך בחלון של 8,192 טוקנים ומיועד לאחזור טקסטים ארוכים. הוא כולל תמיכה מובנית בשפות רבות ורץ בקלות יחסית על שרת סטנדרטי.

  • 305Mפרמטרים
  • 8,192טוקנים בהקשר
  • 5.7 GBמשקל הקבצים
  • 133,820הורדות בחודש

מה זה

הוא מבוסס על ארכיטקטורת GteModel עם 12 שכבות וסביב 305 מיליון פרמטרים, מה שממקם אותו בקטגוריית גודל בינונית. המטרה המרכזית שלו היא המרת טקסט לוקטורים עבור חיפוש סמנטי, דירוג מחדש ומשימות דמיון בין משפטים ומסמכים. היתרון המשמעותי מול מודלים ישנים באותו סדר גודל הוא חלון ההקשר הנרחב, שחוסך פירוק אגרסיבי של מאמרים שלמים לחתיכות קטנות.

במדדי MTEB הוא מציג ביצועים טובים באחזור עובדתי, למשל ציון NDCG@10 של 58.01 ב־ArguAna ושל 56.31 ב־CQADupstack Android. מצד שני, בסיווג ביקורות מרובה מחלקות (Amazon Reviews) הוא מגיע לדיוק של 33.76 בלבד, מה שמראה שאינו מתאים לניתוח סנטימנט מורכב ללא אימון נוסף.

מתאים ל

  • חיפוש סמנטי במסמכים ארוכים

    הוא מטפל בטקסטים של אלפי מילים בלי צורך לפצל אותם לפסקאות קטנות.

  • מערכות RAG בארגונים

    מאפשר לאחזר הקשר רחב ומדויק מתוך מאגרי מידע טכניים או מאמרים.

  • דירוג תוצאות חיפוש

    משפר סדר תוצאות קיים בזכות ציוני אחזור גבוהים במבחני דמיון.

איפה זה נופל

משימות סיווג הן נקודת תורפה ברורה, כפי שמשתקף בביצועים הנמוכים על ביקורות אמזון. בנוסף, חלון של 8,192 טוקנים דורש בדיקה מעשית מול עברית, שכן טוקנייזרים רב־לשוניים נוטים לפרק מילים בעברית לחלקים קטנים מאוד ולנפח את כמות הטוקנים ביחס לאנגלית.

אותה משפחה

snowflake-arctic-embed-m יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם אפשר להריץ אותו על מעבד בלבד?

אפשר, כי 305 מיליון פרמטרים זה מודל קטן יחסית. עם זאת, אם תנצלו את מלוא חלון 8,192 הטוקנים, העיבוד על מעבד יהיה אטי מאוד.

האם הוא תומך בעברית בצורה רשמית?

השפה מופיעה ברשימת השפות של המודל (he), אך כדאי לבדוק בפועל את איכות הייצוג מול מודלים ייעודיים לשפה.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers בפייתון או מריצים מקומית באמצעות חבילות תואמות transformers.js לסביבות קצה. הקבצים שוקלים סך הכול כ־5.7 גיגה־בייט בדיוק float32, כך שכל כרטיס מסך מודרני עם 8 עד 16 גיגה זיכרון יחזיק אותו בנוחות לצד זיכרון עבודה רגיל.

אם אין לכם כרטיס מסך בשרת או שהעומס מגיע רק בפולסים נקודתיים, תחזוקה עצמית תהיה יקרה ומיותרת מול פנייה לפתרונות ענן שמגישים מודלים מוכנים. הרצה עצמית שווה את המאמץ רק כשיש דרישות פרטיות מחמירות או כשמעבירים עשרות אלפי מסמכים ברציפות.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("Snowflake/snowflake-arctic-embed-m-v2.0")
v = m.encode(["שלום עולם"])

הרישיון

הוא מופץ תחת רישיון apache-2.0, שמתיר שימוש מסחרי מלא, שינוי קוד והפצה מחדש במוצרים סגורים. התנאי היחיד הוא שמירת הצהרת זכויות היוצרים והודעת הרישיון המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗