GPT
הוספת כלי
L

LFM2-24B-A2B

קוד פתוח

LiquidAIother2026-02-24

  • transformers
  • safetensors
  • lfm2_moe
  • text-generation
  • liquid

שילוב של ארכיטקטורת תערובת מומחים עם שכבות קונבולוציה מאפשר לו להריץ מודל של 24 מיליארד פרמטרים על זיכרון של מחשב אישי, כל עוד לא מנסים לכתוב איתו קוד.

  • 24Bפרמטרים
  • 128,000טוקנים בהקשר
  • 44.4 GBמשקל הקבצים
  • 3,969הורדות בחודש

מה זה

במקום להפעיל את כל 24 מיליארד הפרמטרים בכל טוקן, הארכיטקטורה כאן מעירה רק 2.3 מיליארד פרמטרים פעילים. המבנה עצמו שונה מהמקובל, מתוך 40 שכבות יש 30 שכבות קונבולוציה ורק 10 שכבות של תשומת לב מלאה, מה שמוריד את העומס החישובי ומאפשר ריצה מהירה במיוחד.

המטרה העיקרית שלו היא עבודה מקומית שלא תלויה בחוות שרתים ענקיות. הוא אומן על 17 טריליון טוקנים ומכוון לפעולות ישירות, קריאה לכלים חיצוניים ושליפת מידע, בלי לחשוב בקול רם ובלי לייצר שרשראות מחשבה ארוכות שמבזבזות זמן עיבוד.

מתאים ל

  • הפעלת כלים באוטומציה מקומית

    תומך בקריאה מובנית לפונקציות פייתון או JSON, ומתאים לשמש כמנוע פנימי מהיר בסוכני תוכנה.

  • סיכום מסמכים רגישים באופליין

    רץ ישירות על מעבד של תחנת עבודה, מה ששומר על מידע רפואי או משפטי בתוך הרשת המקומית בלי שליחה לרשת.

  • מנוע תשובות למערכות RAG

    משתלב כמנוע ניסוח על בסיס שליפת מסמכים מקומית במחשב יחיד, בלי להזדקק לשרת GPU ייעודי ויקר.

איפה זה נופל

היוצרים מבהירים במפורש שהמודל לא עבר אופטימיזציה לכתיבת קוד, ולכן הוא לא מתאים לפיתוח תוכנה. הוא גם לא מציג תהליכי חשיבה מפורטים, כך שאם אתם צריכים פתרון בעיות לוגיות מורכבות שמצריך הנמקה צעד אחר צעד, הוא יתקשה.

נקודה קריטית למפתחים מקומיים היא העברית. רשימת השפות הנתמכות כוללת אנגלית, ערבית, סינית, צרפתית, גרמנית, יפנית, קוריאנית, ספרדית ופורטוגזית, עברית לא נמצאת שם. אם תנסו לעבוד איתו בעברית, צפו לפלטים שבורים לחלוטין או להזיות.

אותה משפחה

LFM2 יצא ב־12 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.

LFM2-1.2B68,217 LFM2-8B-A1B27,811 LFM2-1.2B-GGUF16,177 LFM2-2.6B-GGUF13,639 LFM2-24B-A2B-GGUF11,824 LFM2-350M11,657 LFM2-700M-GGUF10,156 LFM2-8B-A1B-GGUF9,721

שאלות
נפוצות

האם המודל יודע לעבוד בעברית?

לא. רשימת השפות הנתמכות כוללת שפות אירופיות, מזרח אסייתיות וערבית בלבד. עברית לא נתמכת רשמית ולכן הוא אינו מתאים לעיבוד טקסט עברי.

האם הוא מסוגל להחליף מודלים כמו קלוד או GPT לכתיבת קוד?

ממש לא. כרטיס המודל מציין באופן חד משמעי שהוא לא אומן ולא הותאם למשימות קידוד. לשימושי תכנות עדיף לבחור מודל ייעודי.

מה דרוש כדי להריץ אותו על לפטופ רגיל?

תצטרכו לפחות 32 גיגה-בייט של זיכרון RAM ושימוש בגרסה מכווצת דרך כלי כמו llama.cpp או LM Studio. על מעבדים תואמים הוא מספק קצב יצירה מהיר מאוד גם ללא כרטיס גרפי נפרד.

איך מריצים

כדי להריץ אותו במשקל המקורי בפורמט bfloat16 תצטרכו לפחות 45 גיגה-בייט של זיכרון מסך, שזה אומר כרטיס מקצועי או חלוקה בין כרטיסים. לעומת זאת, בגרסה מכווצת הוא נכנס בתוך 32 גיגה-בייט של זיכרון מחשב רגיל, ומגיע לקצב של 112 טוקנים לשנייה על מעבד AMD חזק בלי לגעת בגרפיקה.

הוא נתמך ישירות בספריות כמו llama.cpp, vLLM, MLX וטרנספורמרס מגרסה 5.0 ומעלה. אם אין לכם מחשב עם 32 גיגה-בייט RAM פנויים לגמרי או כרטיס גרפי כבד, אין טעם להסתבך עם התקנה מקומית, עדיף להשתמש בשרת ענן או שירות חיצוני שמארח אותו.

from transformers import pipeline

pipe = pipeline("text-generation", model="LiquidAI/LFM2-24B-A2B")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 44.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הוא מופץ תחת רישיון ייעודי בשם LFM Open License v1.0, שמוגדר במאגר כרישיון מותאם אישית. הוא אינו מבוסס על רישיונות חופשיים סטנדרטיים כמו אפאצ׳י או MIT, ולכן חובה לקרוא את נוסח הרישיון המקורי באתר החברה לפני שמשלבים אותו במוצר מסחרי.

הרישיון המלא בעמוד המודל ↗