LFM2-2.6B-GGUF

קוד פתוח

LiquidAIother2025-09-23

gguf
liquid
lfm2
edge
llama.cpp

מודל קומפקטי שמכוון ספציפית לריצה מקומית על מכשירי קצה. הוא משלב ארכיטקטורה היברידית כדי לחסוך זיכרון ולספק מהירות בלי לשחוט את איכות הפלט.

15.4 GBמשקל הקבצים
13,639הורדות בחודש
61לייקים

מה זה

מדובר בגרסת GGUF למודל של חברת Liquid AI שמבוסס על מה שהם מגדירים כארכיטקטורה היברידית. הרעיון כאן הוא לקחת מודל שפה בגודל קטן יחסית ולהתאים אותו לעבודה בסביבות עם משאבים מוגבלים, במיוחד מעבדים של מחשבים אישיים או חומרת קצה. הוא מיועד ליצירת טקסט ותומך בכמה שפות מרכזיות כמו אנגלית, ערבית, סינית, צרפתית, גרמנית, יפנית, קוריאנית וספרדית.

ההבדל המשמעותי בין מודלים כאלה למודלים סטנדרטיים הוא הניסיון לברוח מהצוואר בקבוק של צריכת הזיכרון. המפתחים לא פרסמו כאן טבלאות ביצועים מפורטות או השוואות לבנצ'מרקים מוכרים, אבל הדגש המוצהר שלהם הוא יעילות זיכרון ומהירות תגובה. אם אתם צריכים מודל שיעבוד מקומית בלי לבלוע לכם את כל הזיכרון של המחשב, זה הכיוון שהם מנסים לפתור.

מתאים ל

ריצה מקומית על מחשב נייד
מתאים למי שרוצה בוט מקומי שעובד בלי אינטרנט ובלי לחנוק את החומרה עם דרישות זיכרון מוגזמות.
עיבוד טקסט באנגלית ובערבית
המודל כולל תמיכה רשמית בשפות אלה ומתאים לניתוח טקסטים קצרים ישירות על מכשיר הקצה.
שילוב באפליקציות פנימיות
מענה טוב למערכות שדורשות פרטיות מידע מוחלטת ומעדיפות ביצועים סבירים על פני דיוק של מודל ענק.

איפה זה נופל

הכרטיס לא מספק נתוני בנצ'מרק, מגבלות הקשר מדויקות או פירוט על תקלות והזיות, כך שחובת הבדיקה כולה עליכם. עברית אינה מופיעה ברשימת השפות הנתמכות, ולכן אין מה לבנות עליו לעיבוד שפה טבעית בעברית בלי לצפות לשגיאות גסות או חוסר הבנה מוחלט. בנוסף, מודלים בגודל של כשני מיליארד פרמטרים מוגבלים ביכולות הסקת מסקנות מורכבות.

אותה משפחה

LFM2 יצא ב־12 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.

LFM2-1.2B68,217 LFM2-8B-A1B27,811 LFM2-1.2B-GGUF16,177 LFM2-24B-A2B-GGUF11,824 LFM2-350M11,657 LFM2-700M-GGUF10,156 LFM2-8B-A1B-GGUF9,721 LFM2-2.6B6,887

שאלות
נפוצות

האם אפשר להשתמש במודל הזה לעבודה בעברית?

עברית לא נכללת ברשימת השפות הנתמכות שהמפתחים הגדירו. אפשר לנסות להריץ איתו פרומפטים בעברית, אבל סביר מאוד שתקבלו פלטים משובשים או חוסר עקביות תחבירי.

האם צריך כרטיס מסך ייעודי של אנבידיה כדי להריץ אותו?

ממש לא. פורמט GGUF מיועד בדיוק כדי לאפשר ריצה מהירה דרך llama.cpp על גבי המעבד הרגיל של המחשב, כל עוד יש לכם מספיק זיכרון פנוי.

איך מריצים

את המודל מריצים ישירות דרך llama.cpp, למשל בפקודת llama-cli פשוטה שמושכת את המשקלים מהמאגר. בגלל שמדובר בפורמט GGUF, אפשר להריץ אותו ישירות על המעבד המרכזי בלי חובה בכרטיס מסך ייעודי חזק, אם כי זיכרון RAM של שמונה עד שישה עשר גיגה יספיק לרוב הגרסאות המכווצות שלו.

אם אתם מתכננים עומס עבודה כבד עם אלפי פניות במקביל או שאתם צריכים תשובות ברמה של מודלי ענק, עדיף לפנות ל־API חיצוני בתשלום. להרצה מקומית, פרטית ובלי תלות ברשת, הקובץ הזה סוגר את הפינה.

ollama run hf.co/LiquidAI/LFM2-2.6B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

F165.1 GB Q8_02.7 GB Q6_K2.1 GB Q5_K_M1.8 GB Q4_K_M1.7 GB Q4_K_M1.6 GB Q4_01.5 GB

הקבצים

14 קבצים במאגר, 15.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר כ־other ולא כקוד פתוח מוכר. המשמעות היא שאין הרשאה אוטומטית לשימוש מסחרי או הפצה חופשית, וחובה לבדוק את התנאים המשפטיים באתר החברה לפני שמשלבים אותו בקוד שמיועד ללקוחות.

הרישיון המלא בעמוד המודל ↗