nomic-embed-text-v1.5

מה זה

המודל מבוסס על ארכיטקטורת NomicBertModel עם 12 שכבות, ונועד להפקת וקטורים עבור חיפוש סמנטי, סיווג ודירוג מחדש. רוב המודלים בקטגוריית הגודל הזו מוגבלים בדרך כלל לטווח קצר בהרבה, ולכן חלון של 2,048 טוקנים נותן כאן יתרון מעשי בעיבוד מסמכים שלמים בלי צורך לחתוך אותם לחתיכות זעירות.

במבחני MTEB הרשמיים שנמדדו בכרטיס, הוא מציג תוצאות מעורבות שתלויות בסוג המשימה. בסיווג קוטביות של אמזון הוא הגיע לדיוק של 91.81%, ובמשימות דמיון סמנטי ביולוגי הגיע למתאם פירסון של 86.73. מנגד, באחזור טקסטים טכניים מורכבים כמו פורומים של מתמטיקה הוא משיג דיוק נמוך משמעותית, עם precision של 5.36% בלבד בעשירייה הראשונה.

מתאים ל

• חיפוש סמנטי באנגלית

  מתאים לאחזור מאמרים ארוכים באנגלית בזכות חלון של 2,048 טוקנים.

• זיהוי כפילויות טכניות

  קיבל ציון MRR של 76.06 במבחני דירוג שאלות כפולות ב־AskUbuntu.

• סיווג תלונות וטקסטים

  מציג דיוק של 84.25% במאגר הבנקאות Banking77 מתוך הכרטיס.

איפה זה נופל

החולשה העיקרית שלו מגיעה בשפות. המודל מאומן על אנגלית בלבד, כך שלא הייתי משתמש בו לשום פרויקט שכולל עברית. הוא פשוט יפספס לחלוטין את ההקשר. בנוסף, באחזור שאלות ותשובות מקצועיות הוא מתקשה להחזיר תוצאות מדויקות כבר במקומות הראשונים, כפי שנראה במדדי map_at_1 הנמוכים בבדיקות של CQADupstack.

אותה משפחה

nomic-embed-text יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers בפייתון או בפורמט transformers.js. המשקל הכולל של הקבצים עומד על 2.1 גיגה בייט בדיוק float32, מה שאומר שהוא רץ בלי מאמץ על כרטיס מסך בסיסי עם 4 גיגה זיכרון, ואפשר להריץ אותו בקלות גם על מעבד רגיל בשרת פשוט.

אם אתם צריכים לאנדקס כמויות קטנות או לבנות חיפוש פנימי בתוך הרשת המקומית, שווה להריץ אותו לבד ולחסוך תלויות חיצוניות. כשיש מיליוני מסמכים לאינדוקס מהיר או שאין לכם שרת ייעודי שמחזיק תהליך פעיל בזיכרון, פנייה לפתרון מנוהל תהיה פשוטה יותר לתחזוקה.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("nomic-ai/nomic-embed-text-v1.5")
v = m.encode(["שלום עולם"])

הקבצים

20 קבצים במאגר, 2.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx547.3 MB
• model.safetensors546.9 MB
• onnx/model_fp16.onnx273.9 MB
• onnx/model_q4.onnx165.1 MB
• onnx/model_bnb4.onnx158.0 MB
• onnx/model_uint8.onnx137.3 MB
• onnx/model_int8.onnx137.3 MB
• onnx/model_quantized.onnx137.3 MB
• onnx/model_q4f16.onnx111.1 MB
• tokenizer.json711.4 KB
• vocab.txt231.5 KB
• README.md71.8 KB
• config.json2.5 KB
• .gitattributes1.5 KB
• tokenizer_config.json1.2 KB
• special_tokens_map.json695 B
• 1_Pooling/config.json286 B
• modules.json255 B
• config_sentence_transformers.json140 B
• sentence_bert_config.json58 B

הרישיון

הוא מופץ תחת רישיון apache-2.0, שמתיר שימוש מסחרי מלא, שינוי של הקוד והפצה פנימית או חיצונית כחלק ממוצר שלכם. התנאי היחיד הוא שמירה על הצהרת זכויות היוצרים והרישיון המקורי בקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗