LFM2.5-1.2B-Instruct-GGUF

קוד פתוח

LiquidAIother2026-01-04

gguf
liquid
lfm2.5
edge
llama.cpp

גרסת GGUF מכווצת של מודל היברידי קומפקטי שמיועד לריצה מקומית על חומרה חלשה. הוא מתאים למי שחייב ביצועי טקסט בסיסיים ישירות על המכשיר בלי תלות ברשת.

9.2 GBמשקל הקבצים
350,462הורדות בחודש
217לייקים

מה זה

מדובר במודל הוראות קטן של 1.2 מיליארד פרמטרים מבית LiquidAI, שמבוסס על ארכיטקטורה היברידית ועבר אימון מקדים מורחב וחיזוק בלמידה. המטרה העיקרית שלו היא ריצה ישירה על מכשירי קצה כמו מחשבים ניידים פשוטים או מעבדים חלשים יחסית, כשהוא מגיע בפורמט GGUF מוכן לשימוש.

הייחוד כאן הוא בגרסת כיול מיוחדת בשם QAD בכימות Q4_0, שנוצרה באמצעות זיכוך מודע לכימות ולא רק כיווץ רגיל אחרי האימון. זה אמור לשמר יכולות טוב יותר מקוונטיזציה רגילה באותו סדר גודל. ברמת השפות הוא מיועד בעיקר לאנגלית, ערבית, סינית, צרפתית, גרמנית, יפנית, קוריאנית וספרדית, כך שעברית לא נמצאת ברשימת המטרות הרשמית.

מתאים ל

עוזר מקומי למכשירי קצה
מתאים לריצה על מעבדים פשוטים במכשירים מנותקי רשת שדורשים שיחה בסיסית באנגלית.
בוט פקודות מבוסס llama.cpp
קל להרצה בתשתיות פיתוח מקומיות בלי צורך בכרטיס מסך יקר או תשלום על כל טוקן.
בדיקות זיכוך וכימות
מספק קובץ QAD Q4_0 לבחינת השפעת זיכוך מודע לכימות מול כימות רגיל.

איפה זה נופל

המודל הזה קטן מאוד, וגודל של 1.2B מגיע עם פשרות חדות ביכולת הסקת מסקנות, דיוק עובדתי ומעקב אחרי הוראות מורכבות. עברית אינה ברשימת השפות הנתמכות שפורסמה, כך שאי אפשר לסמוך עליו בטקסט מקומי בלי לבדוק הזיות מראש. בנוסף, כרטיס המודל לא חושף נתוני מבחנים כמותיים או ציוני בנצ'מרק, ולכן אי אפשר לדעת מראש מה רמת הביצועים המדויקת שלו ביחס למתחרים.

אותה משפחה

LFM2.5 יצא ב־15 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.

LFM2.5-2.6B-GGUF1,066,346 LFM2.5-230M-GGUF480,288 LFM2.5-8B-A1B-GGUF430,147 LFM2.5-1.2B-Instruct367,266 LFM2.5-2.6B116,730 LFM2.5-350M91,894 LFM2.5-8B-A1B89,043 LFM2.5-350M-GGUF84,145

שאלות
נפוצות

האם המודל תומך בעבודה בעברית?

עברית לא מופיעה ברשימת השפות שפורסמו עבור המודל, הכוללת שפות כמו אנגלית, ערבית וספרדית. סביר שהוא ייצר שגיאות או פלט משובש בעברית, ולכן לא מומלץ להסתמך עליו למשימות בשפה זו.

מה ההבדל בין קובץ ה־QAD לקובץ הרגיל?

קובץ ה־QAD עבר תהליך זיכוך מיוחד במקביל לתהליך הכימות, במטרה לצמצם את אובדן הדיוק שנובע מהמעבר ל־4 ביט. הקובץ הרגיל לעומתו מכווץ בשיטה פוסט-אימונית סטנדרטית.

איך מריצים

את המודל מריצים ישירות דרך llama.cpp בפקודת שורה אחת, תוך ציון שם המאגר או קובץ ה־QAD הספציפי. בזכות המשקל הנמוך של מודל 1.2B מכווץ, כל מעבד מודרני ממוצע עם כמה ג'יגה בייטים בודדים של זיכרון יריץ אותו בקלות בלי שום צורך בכרטיס מסך ייעודי.

אם יש לכם צורך בעיבוד כמויות ענק של טקסט מורכב או בשיחות מרובות משתמשים עם חשיבה עמוקה, עדיף לפנות ל־API חיצוני של מודל גדול. הפעלת מודל כזה מקומית שווה את המאמץ רק כשהמכשיר מנותק מרשת או כשיש דרישת פרטיות מוחלטת.

ollama run hf.co/LiquidAI/LFM2.5-1.2B-Instruct-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF162.3 GB F162.3 GB Q8_01.2 GB Q6_K962.8 MB Q5_K_M843.4 MB Q4_K_M730.9 MB Q4_0695.8 MB Q4_0695.8 MB

הקבצים

15 קבצים במאגר, 9.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר כ־other ולא כקוד פתוח סטנדרטי כמו MIT או אפאצ'י. החברה מפנה ישירות לצוות המכירות שלה עבור פתרונות מותאמים אישית והטמעה במכשירי קצה. המשמעות היא שחובה לבדוק את תנאי הרישיון המדויקים מול LiquidAI לפני שמשלבים אותו במוצר מסחרי כלשהו.

הרישיון המלא בעמוד המודל ↗