LFM2-700M
קוד פתוחLiquidAIother2025-07-10
מודל שפה קטן של 742 מיליון פרמטרים שמיועד להרצה מקומית על מחשבים פשוטים או טלפונים. הוא משלב שכבות קונבולוציה עם תשומת לב כדי לעבוד מהר על מעבדים בלי לחנוק את הזיכרון.
- 742Mפרמטרים
- 128,000טוקנים בהקשר
- 1.4 GBמשקל הקבצים
- 2,863הורדות בחודש
מה זה
מדובר במודל היברידי שלא נשען רק על ארכיטקטורת טרנספורמר רגילה, אלא משלב עשר שכבות קונבולוציה קצרות טווח עם שש שכבות תשומת לב מסוג GQA. המבנה הזה נועד לייצר פענוח ועיבוד קלט מהירים במיוחד על מעבדי CPU, פי שניים ביחס למתחרים כמו Qwen3. הוא אומן על עשרה טריליון טוקנים, כולל זיקוק ידע ממודל 7B, במטרה לדחוס יכולות של מודלים בינוניים לגודל של פחות מגיגה וחצי.
במבחני ביצועים הוא עוקף מודלים כמו Qwen3-0.6B ו־Llama-3.2-1B במעקב אחרי הוראות עם תוצאה של 72.23 ב־IFEval, ורושם 49.9 ב־MMLU. בפועל, זה אומר שהוא מבין מבנה של פקודות ומצליח להחזיר תשובות בפורמטים מוגדרים טוב יותר מרוב מה שקיים בקטגוריית המשקל שלו, למרות שבתחומים מורכבים יותר כמו מתמטיקה הוא עדיין נעצר באזור ה־46 אחוז ב־GSM8K.
מתאים ל
- הפעלת כלים וקריאות פונקציה
הוא אומן להוציא קריאות לפונקציות פייתון ומבני JSON מתוך שיחה, ומגיב מהר בלי להעמיס על חומרת הקצה.
- חילוץ מידע מקומי מתוך טקסט
מתאים לעיבוד מסמכים או שליפת נתונים במכשיר עצמו ללא תלות ברשת, בזכות ביצועים חזקים במעקב אחר הוראות.
- אימון ייעודי למשימה צרה
בסיס קל וזול לפיין-טיונינג באמצעות Unsloth או TRL למשימות ספציפיות כמו סיווג או ניתוב פניות.
איפה זה נופל
היוצרים כותבים בפירוש שהמודל לא מתאים למשימות עתירות ידע או לכתיבת קוד, כיוון שרק 5 אחוזים מנתוני האימון שלו הכילו קוד. מעבר לזה, רשימת השפות הרשמית שלו כוללת שמונה שפות בלבד, ועברית אינה אחת מהן, כך שכל ניסיון לתחקר אותו בעברית ידרוש בדיקה יסודית או אימון המשך. המפתחים מדגישים שכדי להוציא ממנו תוצאות טובות במוצר אמיתי, חייבים לבצע פיין-טיונינג על משימה מוגדרת וצרה מאוד.
אותה משפחה
LFM2 יצא ב־12 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.
שאלות
נפוצות
האם המודל יודע לעבוד בעברית?
המודל לא אומן רשמית על עברית, ורשימת השפות הנתמכות שלו כוללת אנגלית, ערבית, סינית, צרפתית, גרמנית, יפנית, קוריאנית וספרדית בלבד. ייתכן שהוא יזהה מילים בסיסיות, אך ללא אימון ייעודי נוסף הוא לא יספק מענה אמין בעברית.
האם אפשר להריץ אותו ישירות על לפטופ רגיל בלי כרטיס מסך?
כן, זה בדיוק ייעוד המודל. עם משקל של 1.4 גיגה בלבד וארכיטקטורה שמאיצה חישובים על מעבדים רגילים, אפשר להריץ אותו בקלות דרך llama.cpp או transformers על מעבד רגיל.
איך מריצים
המודל שוקל 1.4 גיגה בייט בלבד בדיוק bfloat16, כך שהוא נכנס בקלות לכל מחשב נייד, טלפון מודרני או שרת ענן פצפון בלי GPU ייעודי. אפשר להריץ אותו מקומית דרך vLLM החל מגרסה 0.10.2, דרך ספריית transformers בגרסה 4.55 ומעלה, או ב־llama.cpp באמצעות קובצי GGUF אם רוצים לסחוט מקסימום ביצועים מהמעבד.
היוצרים שחררו ארבעה גדלים בסדרה, מ־350 מיליון ועד 2.6 מיליארד פרמטרים. גרסת ה־700M יושבת באמצע, והיא מתאימה כשרוצים להריץ הכול על המכשיר עצמו. אם אתם מתכננים להריץ אותו בענן על שרת שכור רק בשביל לשלוח פרומפטים כלליים, עדיף פשוט לקרוא ל־API של מודל גדול ומנוסה בהרבה מאשר לתחזק שרת בשבילו.
from transformers import pipeline
pipe = pipeline("text-generation", model="LiquidAI/LFM2-700M")
print(pipe("שלום"))הקבצים
10 קבצים במאגר, 1.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
המודל מופץ תחת רישיון שמוגדר כ־LFM Open License v1.0, ומסווג במאגר כ־other. כיוון שלא מדובר ברישיון קוד פתוח סטנדרטי ומוכר כמו MIT או אפאצ'י, חובה לפתוח את תנאי הרישיון של החברה ולבדוק מה המגבלות על הפצה מסחרית והטמעה במוצר לפני שמשלבים אותו בקוד.