LFM2-2.6B-Exp

מה זה

מדובר בצ'קפוינט ניסיוני של חברת LiquidAI שמבוסס על מודל בגודל 2.6 מיליארד פרמטרים. המפתחים אימנו אותו באמצעות למידת חיזוק ישירה על משימות של מתמטיקה, ידע ומעקב אחר הוראות. הארכיטקטורה משלבת שכבות קונבולוציה קצרות טווח עם תשומת לב מסוג GQA, שילוב שנועד לאפשר עיבוד מהיר ויעיל בצריכת הזיכרון בהשוואה לטרנספורמר רגיל.

במבחן IFBench, שבודק ציות מדויק להנחיות מורכבות, המודל עוקף מודלים ענקיים כמו DeepSeek R1-0528. זה אומר שהוא מתמודד יפה עם אילוצים נוקשים של פורמט ותוכן, תחום שבו מודלים קטנים בדרך כלל נכשלים לחלוטין. הוא תומך בהפעלת כלים דרך פונקציות פייתון ומבנה של JSON, ומיועד בעיקר לשיחות מרובות שלבים, RAG, וחילוץ מידע.

מתאים ל

• סוכנים מבוססי כלים

  מבנה מובנה להרצת פונקציות פייתון והחזרת תשובות ישירות בתוך שיחה.

• שליפת מידע ביישומי RAG

  יכולת ציות גבוהה לחוקים מאפשרת לו לסנן ולעבד מסמכים בלי לסטות מההנחיות.

• חילוץ נתונים למבנה מוגדר

  עמידה טובה בהגבלות פורמט, מתאים להמרת טקסט חופשי למבני נתונים.

איפה זה נופל

היוצרים עצמם מבהירים שהמודל לא מתאים למשימות עתירות ידע או לכתיבת קוד, תחום שבו נתוני האימון שלו היו דלים ועמדו על חמישה אחוזים בלבד. בנוסף, עברית כלל לא נכללת ברשימת השפות הנתמכות, שכוללת שפות כמו אנגלית, ערבית, צרפתית וגרמנית. ניסיון להשתמש בו בעברית יספק כנראה תוצאות שבורות. לביצועים סבירים במשימות מוגדרות היצרן ממליץ לבצע התאמה ייעודית באימון נוסף, אחרת קשה לסמוך עליו בייצור.

אותה משפחה

LFM2-2.6B-Exp יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים עומד על 4.8 גיגה בייט, כך שכרטיס מסך בסיסי עם 6 עד 8 גיגה בייט זיכרון יריץ אותו בקלות בפורמט המקורי. המפתחים ממליצים להריץ אותו דרך ספריית vLLM מגרסה 0.10.2 ומעלה עבור שרתים, או עם ספריית transformers העדכנית. למי שמעדיף מעבד מקומי יש גרסת GGUF שמתאימה ישירות לשימוש עם llama.cpp.

הגדרות הדגימה המומלצות הן טמפרטורה נמוכה של 0.3, ערך min_p של 0.15 וענישה קלה על חזרתיות. אם העומס שלכם נמוך ויש צורך במענה כללי עמוק, אין טעם להחזיק שרת בשבילו, אבל אם אתם צריכים סוכן מקומי שרץ מהר בלי תלות ברשת חיצונית, ההרצה העצמית פשוטה וזולה.

from transformers import pipeline

pipe = pipeline("text-generation", model="LiquidAI/LFM2-2.6B-Exp")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 4.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors140.5 MB
• tokenizer.json4.7 MB
• tokenizer_config.json91.6 KB
• model.safetensors.index.json21.4 KB
• README.md10.9 KB
• LICENSE10.6 KB
• chat_template.jinja3.1 KB
• .gitattributes1.5 KB
• config.json1.5 KB
• special_tokens_map.json434 B
• generation_config.json132 B

הרישיון

המודל מסומן ברישיון מסחרי ייעודי בשם LFM Open License v1.0. הכרטיס אינו מפרט את התנאים המלאים של הרישיון הזה, ולכן חובה לאתר ולקרוא את נוסח הרישיון המקורי כדי לוודא אם קיימות הגבלות שימוש, דרישות ייחוס או תנאי הפצה לפני שמשלבים אותו במוצר מסחרי.

הרישיון המלא בעמוד המודל ↗