LFM2-350M
קוד פתוחLiquidAIother2025-07-10
מודל קטן במיוחד ששוקל פחות מגיגהבייט ונועד לעבוד ישירות על מכשירי קצה. הוא פונה למי שרוצה מהירות גבוהה וצריכת זיכרון אפסית בלי להסתמך על שרת מרוחק.
- 354Mפרמטרים
- 128,000טוקנים בהקשר
- 681 MBמשקל הקבצים
- 11,657הורדות בחודש
מה זה
מדובר במודל היברידי של 354 מיליון פרמטרים שמחליף חלק משכבות הקשב הרגילות בקונבולוציות קצרות. השילוב הזה נותן מהירות תגובה גבוהה על מעבדים פשוטים תוך שמירה על דרישות זיכרון נמוכות מאוד. הוא אומן על עשרה טריליון טוקנים, כמות עצומה לגודל שלו, כדי לסחוט יכולת ביטוי מירבית.
במבחני ביצועים הוא עוקף מודלים כמו Llama 3.2 1B במעקב אחר הוראות עם 65.12 נקודות ב־IFEval, למרות שהוא קטן מהם משמעותית. מצד שני, במבחני ידע כללי ומתמטיקה הוא מקבל ציונים נמוכים כמו 43.43 ב־MMLU ו־30.1 ב־GSM8K. זה אומר שהוא מבין מה ביקשתם ממנו, אבל חסר לו ידע רחב או יכולת חישוב מורכבת.
מתאים ל
- חילוץ נתונים מובנה
מתאים לפרסור טקסט חופשי לתוך אובייקטים של JSON ישירות על מכשיר הקצה.
- הפעלת פונקציות מקומית
תומך בשימוש בכלים ובקריאה לפונקציות פייתון עבור סוכנים אוטונומיים פשוטים.
- סינון קלטים ברכיבי קצה
רץ ברקע על מעבד חלש כדי לסווג או להפנות בקשות משתמש לפני שליחה הלאה.
איפה זה נופל
המודל הזה לא מתאים למשימות שדורשות תכנות או שליפת ידע כללי עמוק, והיוצרים שלו מצהירים על כך במפורש. עם 30 אחוז בלבד במבחן המתמטיקה וציון נמוך ב־GPQA, הוא ייכשל במשימות חישוביות. בנוסף, חלון ההקשר שהוגדר בטבלת המאפיינים עומד על 32,768 טוקנים. עברית אינה מופיעה ברשימת השפות הנתמכות שלו, שכוללת שפות כמו אנגלית, ערבית, צרפתית וספרדית, ולכן טקסטים בעברית צפויים להישבר או להניב תוצאות משובשות. כדי להוציא ממנו תוצאה טובה במשימה מוגדרת חובה לבצע פיין טיונינג ייעודי.
אותה משפחה
LFM2 יצא ב־12 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.
שאלות
נפוצות
האם אפשר לבנות איתו אפליקציה שתשוחח עם משתמשים בעברית?
לא מומלץ בכלל. עברית אינה נכללת בשפות שנתמכות באימון של המודל, שכוללות שפות מרכזיות כמו אנגלית, ערבית וספרדית. סביר מאוד שהוא יתקשה בהבנת התחביר ובייצור פלט קריא בעברית.
למה להשתמש בו במקום במודל של מיליארד פרמטרים ומעלה?
היתרון המרכזי הוא משקל של פחות מגיגהבייט ומהירות חסרת תקדים על גבי CPU רגיל. אם יש לכם משימה צרה שדורשת תגובה מהירה במכשיר מוגבל במשאבים, הוא יעשה את העבודה בלי לחנוק את החומרה.
איך מריצים
המשקל כולו הוא 681 מגהבייט, כך שאפשר להריץ אותו ישירות על מעבד של לפטופ, טלפון או מחשב לוח בלי לגעת בכלל בכרטיס מסך ייעודי. הוא נתמך ישירות דרך transformers מגרסה 4.55 ומעלה, ב־vLLM, וקיים לו גם קובץ GGUF מותאם לעבודה ישירה ומהירה עם llama.cpp.
המשפחה כוללת גדלים נוספים של 700 מיליון, 1.2 מיליארד ו־2.6 מיליארד פרמטרים. אם אתם צריכים תשובות עמוקות לשאלות ידע או ניתוח קוד מורכב, עדיף לפנות ל־API חיצוני של מודל ענק במקום לנסות להריץ את הגרסה הזו.
from transformers import pipeline
pipe = pipeline("text-generation", model="LiquidAI/LFM2-350M")
print(pipe("שלום"))הקבצים
10 קבצים במאגר, 681 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הקוד והמשקלים מופצים תחת רישיון שנקרא LFM Open License v1.0, שמסווג במאגר כרישיון מותאם אישית. מכיוון שלא מדובר ברישיון קוד פתוח סטנדרטי דוגמת Apache או MIT, חובה לקרוא את נוסח הרישיון המלא לפני שילוב שלו במוצר מסחרי כדי לוודא שאין בו הגבלות שימוש או תנאים מסחריים ייחודיים לחברה.