LFM2-1.2B-GGUF

קוד פתוח

LiquidAIother2025-07-12

gguf
liquid
lfm2
edge
llama.cpp

מודל שפה קטן במיוחד שתוכנן לרוץ ישירות על מכשירי קצה ורכיבי קצה. הוא מכוון למהירות גבוהה ולצריכת זיכרון נמוכה איפה שאין שרת כבד.

7.1 GBמשקל הקבצים
16,177הורדות בחודש
111לייקים

מה זה

מדובר במודל היברידי של Liquid AI בגודל 1.2 מיליארד פרמטרים שיושב באריזת GGUF. הדגש כאן הוא על יעילות חישובית קיצונית שמיועדת לאפשר ריצה מקומית בלי לחנוק את החומרה. הוא מחזיק תמיכה בשמונה שפות שונות, ביניהן אנגלית, ערבית, צרפתית, גרמנית, ספרדית ומזרח אסייתיות, אך עברית אינה ברשימה הזו.

המטרה של ארכיטקטורה היברידית מהסוג הזה היא לתת מענה סביר למשימות טקסט בסיסיות בזמן תגובה מהיר, מבלי להחזיק משאבי ענן יקרים. עם זאת, אין בכרטיס נתוני בנצ'מרק מדויקים שמראים איפה בדיוק הוא עומד מול חלופות מוכרות בקטגוריית הגודל הזו.

מתאים ל

עיבוד על מכשירי קצה
מתאים לחומרה חלשה ומכשירים מוגבלים בזכות הדרישה הנמוכה למשאבי זיכרון.
סיווג טקסט מקומי
מספק מענה מהיר למשימות ניתוב וקטגוריזציה פשוטות בלי תלות ברשת.
עבודה בשפות זרות נתמכות
יעיל למענה קצר ובסיסי בשפות כמו אנגלית, ערבית, צרפתית או ספרדית.

איפה זה נופל

המודל הזה קטן מאוד, ואי אפשר לצפות ממנו להבנה מורכבת או ליכולות ניתוח עמוקות. בנוסף, עברית לא נכללת ברשימת השפות הנתמכות שלו, כך שאי אפשר לבנות עליו לפרויקטים מקומיים בשפה שלנו. כרטיס המודל לא מציג ציוני מבחנים או פירוט על מגבלות ההקשר, ולכן חובה לבדוק אותו ידנית על המשימה הספציפית לפני שמסתמכים עליו.

אותה משפחה

LFM2 יצא ב־12 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.

LFM2-1.2B68,217 LFM2-8B-A1B27,811 LFM2-2.6B-GGUF13,639 LFM2-24B-A2B-GGUF11,824 LFM2-350M11,657 LFM2-700M-GGUF10,156 LFM2-8B-A1B-GGUF9,721 LFM2-2.6B6,887

שאלות
נפוצות

האם המודל מתאים לשימוש בעברית?

הוא לא מוגדר כתומך בעברית, אלא רק בשפות כמו אנגלית, ערבית, גרמנית, ספרדית ומספר שפות אסייתיות. לפרויקט שדורש עיבוד טקסט בעברית עדיף לבחור מודל שנבדק ואומן על השפה.

איך אפשר להתחיל להריץ אותו על המחשב?

אפשר להפעיל אותו ישירות דרך כלי llama.cpp באמצעות שורת הפקודה שסופקה. בגלל שמדובר במודל זעיר, הוא לא דורש כרטיס מסך מיוחד ויעבוד גם על מעבד רגיל.

איך מריצים

ההרצה נעשית ישירות דרך llama.cpp באמצעות הפקודה llama-cli שמורידה את הקבצים. גודל הקבצים הכולל עומד על 7.1 גיגהבייט שמחולקים לארבעה עשר קבצים, אבל מודל ששוקל 1.2 מיליארד פרמטרים יכול לרוץ גם על מחשב נייד בסיסי או מעבד ללא צורך במאיץ גרפי חזק.

אם אתם צריכים רק שאילתות בודדות או חשיבה עמוקה, עדיף לפנות ל־API חיצוני של מודל ענק. הרצה עצמית כאן משתלמת כשרצים על מכשיר קצה מקומי ללא חיבור רשת או כשיש דרישה לזמני תגובה קצרים בעלות חומרה אפסית.

ollama run hf.co/LiquidAI/LFM2-1.2B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

F162.3 GB Q8_01.2 GB Q6_K962.8 MB Q5_K_M843.4 MB Q4_K_M796.4 MB Q4_K_M730.9 MB Q4_0695.7 MB

הקבצים

14 קבצים במאגר, 7.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר כ־other ללא פירוט של תנאי השימוש החופשיים או המסחריים בכרטיס המודל. מצב כזה מחייב בדיקה של תנאי הרישיון המקוריים באתר היצרן לפני שמשלבים אותו במוצר מסחרי כלשהו, כדי לוודא שאין מגבלות הפצה.

הרישיון המלא בעמוד המודל ↗