GPT
הוספת כלי
L

LFM2.5-Encoder-230M

קוד פתוח

LiquidAIother2026-07-27

  • transformers
  • safetensors
  • lfm2
  • fill-mask
  • liquid

אינקודר דו כיווני קל משקל שנועד לעיבוד הקשרים ארוכים על מעבדים פשוטים. הוא מתאים למי שחייב מהירות גבוהה על חומרה מקומית בלי לגרור שרת ענק.

  • 230Mפרמטרים
  • 128,000טוקנים בהקשר
  • 881 MBמשקל הקבצים
  • 2,924הורדות בחודש

מה זה

מדובר במודל שפה דו כיווני מבוסס ארכיטקטורה היברידית של LFM2, שמשלבת קונבולוציות קצרות עם תשומת לב מסוג Grouped Query Attention. הוא אומן לחזות מילים מוסתרות על גבי 15 שפות, והתפקיד העיקרי שלו הוא לשמש בסיס לאימון ייעודי למשימות כמו סיווג טקסט, חילוץ ישויות, או דירוג אחזור מידע.

במבחני ביצועים על פני 17 משימות שונות הוא משיג ציון ממוצע של 79.29 נקודות. זה מציב אותו מעל מודלים כמו ModernBERT-base או XLM-R base, אבל עדיין מתחת לאחיו הגדול בן 350 מיליון הפרמטרים ולמודל mDeBERTa-v3. היתרון המשמעותי שלו מתבטא בריצות עם טקסטים ארוכים על מעבדי CPU, שבהם הוא מהיר פי 3.3 ממתחריו.

מתאים ל

  • סיווג וניתוב פרומפטים

    מאפשר לבדוק פרומפט שלם מול חוקי ניתוב במעבר יחיד ישירות על המעבד.

  • זיהוי מידע רגיש במסמכים

    סורק טקסטים ארוכים באפס זמן כדי לחלץ פרטים אישיים ב־15 שפות נתמכות.

  • אימות עמידה במדיניות

    משווה כל טוקן במסמך ארוך אל מול כללי הארגון בלי לחנוק את הזיכרון.

איפה זה נופל

בטקסטים קצרים הוא איטי יותר מ־ModernBERT-base, כך שאם המשימות שלכם כוללות רק משפטים בודדים, אין לו יתרון ביצועי. בנוסף, עברית אינה מופיעה ברשימת 15 השפות הנתמכות, ולכן הוא ייכשל בניתוח טקסט מקומי. המודל אינו מוצר מוגמר לפליטת טקסט חופשי, אלא בסיס שחייבים לאמן עליו ראש סיווג או רגרסיה כדי לקבל תוצאות שימושיות.

אותה משפחה

LFM2.5-Encoder יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

LFM2.5-Encoder-350M10,946

שאלות
נפוצות

האם אפשר להשתמש במודל הזה לניתוח טקסטים בעברית?

לא מומלץ בכלל. רשימת השפות הנתמכות כוללת 15 שפות בלבד, ביניהן אנגלית, ערבית, רוסית וצרפתית, אך עברית אינה חלק מהן. ניסיון לעבד עברית יוביל לתוצאות גרועות עקב חוסר בטוקניזציה מתאימה.

האם המודל מוכן לשימוש ישיר כמו מודל צ'אט?

לא, זהו אינקודר מסוג Masked Language Model שמיועד לחזות מילים חסרות. כדי להפיק ממנו ערך מעשי צריך להלביש עליו ראש סיווג ולאמן אותו על הנתונים שלכם.

איך מריצים

טעינת המודל מתבצעת ישירות דרך ספריית transformers, אך מחייבת להגדיר trust_remote_code כחיובי מכיוון שהארכיטקטורה אינה חלק מהקוד המובנה בספרייה. המשקל שלו עומד על 881 מגה בייט בלבד, מה שמאפשר להריץ אותו בקלות על מעבד רגיל, בדפדפן דרך WebGPU, או על גבי מעבדי אפל בלי צורך בתשתית כבדה. אם יש לכם כרטיס גרפי תואם, התקנה של Flash Attention 2 תסחוט ממנו את מירב המהירות.

הבחירה בו מול אחיו הגדול, גרסת ה־350M, תלויה בתקציב הזיכרון ובזמן התגובה הנדרש. אין היגיון לפנות ל־API חיצוני עבור מודל כזה, כי העלות החישובית שלו כה נמוכה שעדיף לפרוס אותו ישירות בתוך השירות שלכם.

from transformers import pipeline

pipe = pipeline("fill-mask", model="LiquidAI/LFM2.5-Encoder-230M")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 881 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון קנייני בשם LFM Open License v1.0 ולא תחת רישיון קוד פתוח סטנדרטי דוגמת MIT או Apache. תנאי השימוש המסחריים וההגבלות שלו אינם מפורטים במלואם בכרטיס, ולכן אסור לשלב אותו במוצר מסחרי לפני בדיקה משפטית של נוסח הרישיון המלא.

הרישיון המלא בעמוד המודל ↗