LFM2.5-Embedding-350M

מה זה

מדובר במודל bi-encoder מבוסס LFM2.5 דו-כיווני שמייצר וקטור יחיד בגודל 1024 לכל מסמך. המודל שוקל 354 מיליון פרמטרים ומשתמש בשכבות קונבולוציה לצד מנגנון תשומת לב, שילוב שמאפשר לו לרוץ מהר מאוד על חומרה צנועה.

במבחני NanoBEIR Multilingual הוא רושם ממוצע של 0.577 בציון NDCG@10, ומנצח מודלים צפופים גדולים ממנו כמו Qwen3-Embedding בגרסת 600 מיליון פרמטרים. במבחן MKQA לחיפוש חוצה שפות הוא מגיע ל־0.691, קרוב מאוד לגרסת ה־ColBERT המקבילה. המשמעות היא שאתם מקבלים איכות שמגרדת את שיטות ה־late interaction, אבל עם אינדקס פשוט בהרבה שמבוסס על מרחק קוסינוס סטנדרטי.

מתאים ל

• חיפוש בקטלוג מוצרים

  אינדקס צפוף של וקטור אחד למוצר מאפשר לבצע שאילתות מהירות ב־11 שפות בלי לנפח את בסיס הנתונים הווקטורי.

• אחזור במערכות RAG קצרות

  שליפת פסקאות מתוך מאגר שאלות ותשובות או נהלים משרדיים תחת שרתים מקומיים בעלות חומרה אפסית כמעט.

• מנוע חיפוש מקומי במכשיר

  משקל של 681 מגה-בייט מאפשר להריץ אותו ישירות על מחשבי קצה לחיפוש מקומי במסמכים, פתקים והודעות.

איפה זה נופל

אורך המסמך מוגבל ל־512 טוקנים בלבד, למרות שהמטא-דאטה מציג חלון גדול יותר של הבסיס. אם תנסו לדחוף לו מסמכי PDF ארוכים בלי חלוקה אגרסיבית לחלקים קטנים, הוא פשוט יחתוך אותם.

חייבים להקפיד על הקידומות query: ו־document: בזמן החישוב. השמטה שלהן פוגעת בשקט באיכות האחזור. בנוסף, רשימת השפות כוללת ערבית, שפות אירופיות, יפנית וקוריאנית, אבל עברית לא נתמכת כאן ולא נבדקה.

אותה משפחה

LFM2.5-Embedding יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers עם trust_remote_code=True, ומריצים על מעבד, כרטיס גרפי קטן או אפילו על מקבוק בעזרת llama.cpp וקבצי GGUF זמינים. על מחשב M4 Max שאילתה של 32 טוקנים נדחסת ב־7.3 מילישניות, ועל שרתי GPU ארגוניים המדידות מציגות סביב 1.5 מילישניות.

הוא שוקל 681 מגה-בייט בלבד, כך שאין שום סיבה טכנית לקרוא ל־API חיצוני אלא אם כן אתם מסרבים לתחזק שרת מקומי. אם רוצים להאיץ אימון אפשר לחבר Flash Attention 2, למרות שבזמן ריצה רגילה עם טקסטים קצרים הוא נותן שיפור של 5 אחוז בלבד.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("LiquidAI/LFM2.5-Embedding-350M")
v = m.encode(["שלום עולם"])

הקבצים

14 קבצים במאגר, 681 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors709.0 MB
• tokenizer.json4.7 MB
• tokenizer_config.json92.1 KB
• README.md14.2 KB
• LICENSE10.6 KB
• modeling_lfm2_bidirectional.py5.2 KB
• .gitattributes1.5 KB
• config.json1.4 KB
• chat_template.jinja1.3 KB
• config_sentence_transformers.json555 B
• special_tokens_map.json434 B
• 1_Pooling/config.json313 B
• modules.json229 B
• sentence_bert_config.json57 B

הרישיון

המודל מופץ תחת LFM Open License v1.0, רישיון קנייני של Liquid AI שמסומן כ־other ולא תחת רישיון קוד פתוח סטנדרטי כמו Apache או MIT. לפני שילוב שלו במוצר מסחרי, חובה לקרוא את נוסח הרישיון המלא באתר החברה כדי לוודא שאין בו הגבלות שימוש, מכסות או דרישות דיווח.

הרישיון המלא בעמוד המודל ↗