GPT
L

LFM2.5-Embedding-350M-GGUF

קוד פתוח

LiquidAIother2026-06-16

  • sentence-transformers
  • gguf
  • liquid
  • lfm2
  • lfm2.5

מודל שיעבוד קומפקטי ומהיר לשליפת מידע רב לשונית. הוא מפיק וקטור צפוף יחיד לכל מסמך ומיועד למי שרוצה חלופה מקומית קלת משקל בצנרת חיפוש קיימת.

  • 2.6 GBמשקל הקבצים
  • 5,152הורדות בחודש
  • 38לייקים

מה זה

מדובר במודל דו כיווני צפוף של שלוש מאות וחמישים מיליון פרמטרים, שנבנה על בסיס הארכיטקטורה של ליקוויד. התפקיד שלו הוא לייצר ייצוג וקטורי יחיד לכל טקסט, גישה שמקטינה את נפח האינדקס ומאיצה את החיפוש בהשוואה לשיטות שמחזיקות מספר וקטורים לכל מסמך. לפי הנתונים שפורסמו, זמן הריצה שלו משתווה למודלים קטנים בהרבה בזכות מבנה השכבות שלו, והוא מתאים להחלפה ישירה של מודלי הטמעה קיימים.

הוא מיועד לעבודה על פני אחת עשרה שפות, וכולל בין היתר תמיכה באנגלית, ערבית, ספרדית, צרפתית וגרמנית. עברית אינה מופיעה ברשימת השפות הרשמיות שלו. המודל מתבסס על פרומפטים אסימטריים כדי להבדיל בין שאילתות למסמכים, מה שמסייע בדיוק ההתאמה בעת סריקת מאגרי מידע גדולים.

מתאים ל

  • אינדוקס מסמכים רב לשוני

    שליפת מידע ממסמכים בשפות אירופיות וערבית עם אינדקס וקטורי קל במיוחד.

  • הטמעת שאילתות על מחשב מקומי

    ריצה מקומית מלאה על מעבד סטנדרטי ללא תלות בספק חיצוני או בכרטיס מסך חזק.

  • שדרוג צנרת חיפוש קיימת

    החלפה של רכיב השיעבוד במערכות קיימות כדי להאיץ את מהירות המענה במסד הנתונים.

איפה זה נופל

החיסרון המרכזי למפתח הישראלי הוא היעדר תמיכה רשמית בעברית. רשימת השפות מציינת שמונה שפות ספציפיות לצד ההצהרה על אחת עשרה, ועברית אינה ביניהן, כך שאי אפשר לבנות עליו לטקסטים מקומיים בלי בדיקה קפדנית של אובדן איכות.

בנוסף, המודל מחייב שימוש קפדני בקידומות שונות לשאילתות ולמסמכים. אם תשלחו טקסט נקי בלי הקידומת המתאימה, ציוני הדמיון יפגעו משמעותית. הכרטיס גם אינו מפרט תוצאות מספריות של מבחני ביצועים או השוואות ישירות מול מתחרים ידועים.

אותה משפחה

LFM2.5-Embedding יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם המודל מתאים לחיפוש טקסטים בעברית?

המודל אינו כולל תמיכה רשמית בעברית ברשימת השפות שלו. הוא מאומן על שפות כמו אנגלית וערבית, ולכן לא מומלץ להסתמך עליו לאחזור טקסטים בעברית ללא בדיקת ביצועים מקדימה.

האם צריך כרטיס מסך חזק כדי להריץ אותו?

לא. בזכות גודל של שלוש מאות וחמישים מיליון פרמטרים ופורמט ג'י ג'י יו אף, אפשר להריץ אותו בקלות על מעבד רגיל של שרת פשוט באמצעות למה סי פי פי.

איך מריצים

המודל מופץ בפורמט ג'י ג'י יו אף, מה שמאפשר להריץ אותו ישירות דרך כלי כמו למה סי פי פי על גבי מעבד רגיל או מאיץ גרפי פשוט. משקל הקבצים הכולל הוא שניים נקודה שישה גיגה בייט המחולקים לאחד עשר קבצים, כך שאין צורך במפרט חומרה כבד או בזיכרון גרפי יקר כדי להרים שרת מקומי.

טעינת השרת מתבצעת בפקודה בודדת של למה סרבר עם הדגל שמפעיל הטמעות. הפנייה אליו נעשית בבקשות רשת סטנדרטיות, אך חובה להקפיד על הוספת הקידומות המוגדרות לכל מחרוזת, קידומת ייעודית לשאילתה וקידומת אחרת למסמך, כדי שהווקטורים יחושבו במרחב הנכון.

ollama run hf.co/LiquidAI/LFM2.5-Embedding-350M-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הרישיון

הרישיון מוגדר כאחר ואינו תחת רישיון קוד פתוח מוכר וסטנדרטי. המשמעות היא שתנאי השימוש הספציפיים, כולל ההיתר לשילוב במוצר מסחרי מסחרי או הפצה ללקוחות, אינם גלויים בנתוני המודל. מי שמתכנן להכניס אותו לסביבה עסקית חייב לבדוק את התיעוד המלא של החברה לפני השימוש.

הרישיון המלא בעמוד המודל ↗