zembed-1-embedding

מה זה

המודל הזה מבוסס על Qwen3 בגודל 4B, והוא עוצב כמודל אחזור וייצוג טקסט רב לשוני. הוא עבר זיכוך ממודל דירוג מחדש באמצעות שיטה שמודדת רלוונטיות כציוני אלו, במקום אימון ניגודי פשוט על תוויות של כן ולא. בנוסף, הוא תומך בהקטנת מימדים מובנית מ־2560 ועד ל־40, כולל קוונטיזציה בינארית לדחיסת וקטורים לנפח קטן במיוחד.

במדדי NDCG@10 שהמפתחים פרסמו, הוא עוקף מודלים סגורים כמו של OpenAI ו־Cohere במיוחד בתחומי רפואה, משפט, שיחות ופיננסים. המשמעות בפועל היא יכולת טובה יותר להבין שאלות מורכבות ומסמכים ארוכים בנישות מקצועיות, אם כי בחיפוש רשת כללי הוא דווקא הציג תוצאות נמוכות יותר מחלק מהמתחרים.

מתאים ל

• אחזור מסמכים משפטיים

  המודל הציג ציון של 0.6723 בתחום המשפטי, גבוה משמעותית מכל מתחרה שנבדק.

• חיפוש בתיקים רפואיים

  תוצאות עדיפות במסמכי רפואה לעומת מודלים קנייניים מובילים.

• מערכות עם אילוצי אחסון

  תמיכה מובנית בחיתוך מימדים עד ל־40 ודחיסה בינארית לחסכון במקום.

איפה זה נופל

החיסרון הבולט בטבלאות הביצועים הוא חיפוש רשת כללי, שבו המודל קיבל ציון של 0.6165 לעומת 0.7242 של Cohere ו־0.6750 של OpenAI. בנוסף, הכרטיס מצהיר על אימון רב לשוני רחב אך לא מפרט אילו שפות נכללו ובאיזה היקף, כך שאי אפשר לדעת מראש איך הוא מתמודד עם עברית בלי לבדוק בפועל. יש גם חוסר עקביות בכרטיס לגבי אורך ההקשר, כשבמקום אחד מצוין 32k ובמקום אחר מעל 40k טוקנים.

איך מריצים

במשקל קבצים של 7.5 גיגה בייט בדיוק bfloat16, תצטרכו כרטיס מסך עם לפחות 16 גיגה זיכרון כדי לטעון אותו, ולמעשה 24 גיגה ומעלה אם אתם מתכוונים לנצל את חלון ההקשר המלא שמגיע לעשרות אלפי טוקנים. הוא נתמך ישירות בספריית sentence-transformers, כך שהשילוב בקוד פייתון קיים הוא עניין של שורות בודדות.

אם אתם לא רוצים לנהל שרתים עם חומרה ייעודית בשביל לייצר וקטורים, היוצרים מציעים גם נקודת קצה של API בתשלום. שרת עצמאי שווה את הטרחה רק כשאתם חייבים שהמידע לא ייצא מהרשת שלכם, או כשנפח השאילתות כל כך גבוה שעלויות הקריאות החיצוניות יקרות מדי.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("zeroentropy/zembed-1-embedding")
v = m.encode(["שלום עולם"])

הקבצים

23 קבצים במאגר, 7.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors3.1 GB
• projections.safetensors17.5 MB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• assets/zembed_eval_chart.png135.6 KB
• model.safetensors.index.json32.9 KB
• LICENSE11.4 KB
• tokenizer_config.json5.4 KB
• README.md5.0 KB
• chat_template.jinja4.2 KB
• config.json1.6 KB
• added_tokens.json707 B
• special_tokens_map.json613 B
• modeling_zembed.py593 B
• .gitattributes372 B
• modules.json342 B
• config_sentence_transformers.json309 B
• 1_Pooling/config.json297 B
• generation_config.json214 B
• sentence_bert_config.json55 B
• assets/.gitkeep0 B

הרישיון

המודל מופץ תחת רישיון Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי חופשי, שינוי של המשקולות ושילוב במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗