LFM2-1.2B-Tool-GGUF

קוד פתוח

LiquidAIother2025-09-05

transformers
gguf
liquid
lfm2
edge

גרסת GGUF מכוונת להפעלת כלים וקריאות API בקצה, שמנסה לתת דיוק בלי שרשראות חשיבה ארוכות. היא מתאימה למי שחייב ביצועים מקומיים מהירים על חומרה חלשה בלי ענן.

6.4 GBמשקל הקבצים
5,541הורדות בחודש
51לייקים

מה זה

מדובר במודל שנגזר מ־LFM2 בגודל 1.2 מיליארד פרמטרים, אבל עבר התאמה ייעודית למשימה אחת בלבד: הפעלת כלים, שליפת נתונים וביצוע קריאות מערכת בצורה תמציתית. היוצרים שלו ניסו לפתור בעיה מוכרת של מודלים קטנים, שנוטים להסתבך או להזדקק לזמן חשיבה ארוך כדי לחלץ ארגומנטים מדויקים לפונקציות. כאן בנו ארכיטקטורה ישירה שלא מבזבזת טוקנים על מחשבות ביניים, ומכוונת לעקוף מודלים מקבילים בגודל הזה שכן משתמשים במנגנוני חשיבה.

המשקל של הקבצים עומד על 6.4 גיגה בייט שמחולקים לכמה קבצים, והמיקוד שלו הוא על קצב תגובה מהיר מאוד. הוא תומך בשמונה שפות שכוללות אנגלית, ערבית, סינית, צרפתית, גרמנית, יפנית, קוריאנית וספרדית. אין פה יומרה לנהל שיחות פילוסופיות ארוכות, אלא לקבל פקודה, להבין איזה כלי צריך להפעיל, ולפלוט את המבנה הנכון בלי לבלבל את המוח.

מתאים ל

הפעלת פקודות ברכב וב־IoT
מאפשר תגובה מיידית לקריאות מערכת מקומיות במכשירים חכמים, בלי להמתין לענן ובלי תלות ברשת.
קריאות API במכשירים ניידים
מחלץ פרמטרים לשאילתות בסיסי נתונים ישירות מהטלפון, תוך חיסכון בסוללה ובזמן עיבוד.
עוזר שירות מקומי ומהיר
מפעיל פונקציות תמיכה בזמן אמת כשזמן התגובה הוא הפרמטר הכי קריטי במערכת.

איפה זה נופל

העברית לא מופיעה ברשימת השפות הנתמכות, כך שהבנת הוראות בעברית תהיה לא אמינה ותדרוש בדיקה קפדנית לפני שימוש. בנוסף, המודל תוכנן לחתוך ישירות לפעולה בלי תהליך חשיבה מוקדם. זה מצוין לזמני תגובה, אבל אומר שבמקרים של לוגיקה מורכבת או בחירה בין כמה כלים מסובכים, אין לו מרחב לתקן את עצמו בדרך והוא עלול לייצר קריאות שגויות. חייבים לבדוק ולידציה קשיחה על הפלטים שלו.

אותה משפחה

LFM2-1.2B-Tool יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

LFM2-1.2B-Tool1,089

שאלות
נפוצות

האם המודל מבין הוראות בעברית?

העברית לא נכללת ברשימת השפות הנתמכות של המודל, שכוללת שפות כמו אנגלית וערבית. הוא אולי יזהה מילים בודדות, אבל לא הייתי בונה עליו להפעלת כלים מתוך טקסט בעברית בלי לתרגם קודם.

האם כדאי להשתמש בו במקום מודל חושב שמפעיל כלים?

אם אתם רצים על מכשיר קצה וצריכים מהירות מקסימלית בלי לחכות לשניות ארוכות של פלט, כן. אם הפעולות דורשות תכנון של כמה שלבים מורכבים בזה אחר זה, מודל שמייצר שלבי חשיבה כנראה יטעה פחות.

איך מריצים

את קובצי ה־GGUF מריצים ישירות דרך כלי שורת הפקודה llama-cli באמצעות פקודה אחת שמושכת את המשקלים. גודל של 1.2 מיליארד פרמטרים רץ בקלות על מעבד רגיל, טלפון נייד או מחשב לוח בלי להזדקק למאיץ גרפי כבד בכלל.

אם אתם לא צריכים להריץ את זה ישירות על מכשיר קצה או ברכב ללא חיבור רשת, כנראה שעדיף לשלוח קריאת רשת למודל גדול יותר בענן, במקום לנהל את התשתית בעצמכם.

ollama run hf.co/LiquidAI/LFM2-1.2B-Tool-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

F162.3 GB Q8_01.2 GB Q6_K962.8 MB Q5_K_M843.4 MB Q4_K_M730.9 MB Q4_0695.8 MB

הקבצים

13 קבצים במאגר, 6.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר בתור other ולא תחת רישיון קוד פתוח סטנדרטי ומוכר. אי אפשר לדעת מהדף אילו הגבלות מסחריות חלות עליו, ואסור לשלב אותו במוצר בלי לבדוק לעומק את תנאי השימוש שהחברה מפרסמת באתר שלה.

הרישיון המלא בעמוד המודל ↗