LFM2-VL-450M-GGUF
קוד פתוחLiquidAIother2025-08-17
מודל ראייה ושפה קטן מאוד שרץ מקומית דרך llama.cpp. הוא שוקל גרושים בזיכרון ומיועד למי שחייב לפענח תמונות ישירות על מכשירי קצה חלשים.
- 1.5 GBמשקל הקבצים
- 13,722הורדות בחודש
- 45לייקים
מה זה
מדובר במודל ראייה וטקסט עם 450 מיליון פרמטרים בלבד, שנועד מראש לעבודה על מכשירי קצה בלי תלות בענן. הוא מקבל תמונה וטקסט באנגלית ומחזיר תשובה טקסטואלית, כשכל המשקל שלו בפורמט GGUF מתפרס על קבצים בנפח כולל של כ־1.5 גיגה-בייט. המפתחים שלו מציגים אותו כדור חדש שמכוון למהירות גבוהה ויעילות זיכרון קיצונית.
בגודל כזה של 450M הוא לא מתחרה במודלי ענק רב-מודאליים שמנתחים גרפים מורכבים. היתרון שלו הוא היכולת להשתחל למקומות שבהם מודל רגיל פשוט יקרוס מחוסר זיכרון, כמו מעבדים חלשים או חומרה משובצת, ולתת מענה מהיר למשימות ראייה בסיסיות מקומית לגמרי.
מתאים ל
- זיהוי ויזואלי במכשירי קצה
הוא קל מספיק כדי לרוץ על מעבדים מקומיים ומצלמות חכמות בלי חיבור לרשת.
- מענה מהיר באנגלית לתמונות
מאפשר תיוג ותיאור מהיר של תמונות באנגלית במערכות מוגבלות זיכרון.
- אוטומציה מקומית ומאובטחת
מתאים למידע ויזואלי רגיש שלא יכול לצאת לשרתים חיצוניים.
איפה זה נופל
עם 450 מיליון פרמטרים היכולות שלו מוגבלות מאוד ביחס למודלים גדולים. הוא תומך רשמית רק באנגלית, כך שאין מה לבנות עליו להבנה או פלט בעברית. בנוסף, מודל ראייה זעיר כזה יתקשה בהבנת פרטים קטנים, טקסט צפוף בתוך תמונה או הסקת מסקנות מורכבת, וצריך לבדוק טוב את רמת הדיוק שלו לפני שמסתמכים עליו.
אותה משפחה
LFM2-VL יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
האם המודל מבין עברית?
הכרטיס מציין תמיכה באנגלית בלבד. לא כדאי לבנות עליו לעיבוד תמונות עם טקסט בעברית או לשאלות ותשובות בעברית, כי התוצאות יהיו משובשות או לא קיימות.
איזו חומרה צריכה להיות לי כדי להריץ אותו?
בזכות גודל של 1.5 גיגה-בייט ופורמט GGUF, לא צריך GPU ייעודי חזק. אפשר להריץ אותו על מעבד של לפטופ מודרני או על מכשירי קצה חלשים באמצעות llama.cpp.
איך מריצים
מריצים אותו ישירות דרך llama.cpp באמצעות הפקודה llama-mtmd-cli. הכרטיס מציג אפשרות להריץ אותו בדיוק מלא של F16, או בגרסאות מכווצות כמו Q4_0 למהירות מקסימלית לצד Q8_0, שדורשות פחות משאבים ומאיצות את זמן התגובה.
במשקל כולל של כ־1.5 גיגה-בייט, לא צריך כרטיס מסך מפלצתי ואפשר להריץ אותו על מעבד רגיל, לפטופ או חומרת קצה ייעודית. אם אתם צריכים רק קריאה מזדמנת ולא רוצים לנהל קבצים והרצה מקומית, עדיף להשתמש ב־API חיצוני, אבל למכשירים מנותקי רשת הוא בדיוק מה שמתאים.
ollama run hf.co/LiquidAI/LFM2-VL-450M-GGUF:Q4_0
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
11 קבצים במאגר, 1.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון מוגדר כ־other, כלומר רישיון מותאם אישית של היוצרים ולא רישיון קוד פתוח סטנדרטי. הכרטיס מפנה לצוות המכירות עבור פתרונות מסחריים מותאמים. מי שמתכנן לשלב אותו במוצר מסחרי חייב לבדוק היטב את תנאי השימוש המדויקים מול Liquid AI כדי לא להסתבך משפטית.