LFM2-VL-1.6B-GGUF
קוד פתוחLiquidAIother2025-08-17
מודל ראייה ושפה קטן במיוחד שרץ מקומית דרך llama.cpp. הוא מיועד למי שחייב עיבוד תמונות ישירות על מכשירי קצה בלי תלות ברשת.
- 5.3 GBמשקל הקבצים
- 22,488הורדות בחודש
- 62לייקים
מה זה
מדובר במודל שמשלב טקסט ותמונה ומכוון מראש לעבודה על מכשירי קצה. עם גודל של 1.6 מיליארד פרמטרים, המטרה של המפתחים שלו היתה לייצר כלי שמגיב מהר, דורש זיכרון מינימלי, ועדיין מצליח להבין מה רואים בתמונה.
המשקל הכולל של עשרת הקבצים במאגר עומד על 5.3 גיגה בייט, מה שאומר שהוא נכנס בקלות גם לחומרה מוגבלת יחסית. כרטיס המודל לא מציג תוצאות מדידה או מבחני ביצועים, כך שקשה לדעת מראש איך הדיוק שלו בהשוואה לחלופות אחרות בגודל הזה, אבל הדגש כאן הוא בבירור על מהירות ויעילות.
מתאים ל
- זיהוי ויזואלי במכשירי קצה
הוא קטן מספיק כדי לרוץ מקומית על חומרה חלשה בלי חיבור לרשת ובלי עלויות שרתים.
- מענה זול לשאלות על תמונות
גרסאות ה־Q4_0 מאפשרות תגובה מהירה באנגלית ישירות דרך כלי שורת הפקודה.
- ניתוח בסיסי של תמונות אופליין
מתאים למערכות שחייבות פרטיות מלאה ושמירה של המידע בתוך המכשיר עצמו.
איפה זה נופל
הכרטיס מצהיר על תמיכה באנגלית בלבד, אז אל תבנו עליו לפענוח טקסט בעברית או למענה בשפה מקומית. בנוסף, חסר כאן פירוט לגבי מגבלות הזיהוי, אחוזי שגיאות והטיות. במודל ראייה של 1.6B יש נטייה לפספס פרטים קטנים או להמציא עובדות על תמונות עמוסות, כך שחובה לבדוק אותו ידנית על הדאטה שלכם לפני שמחברים אותו למערכת פעילה.
אותה משפחה
LFM2-VL יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
איך אפשר לנסות אותו בלי להתקין שום דבר?
החברה מציעה ממשק בדיקה בעמוד playground.liquid.ai. אפשר להיכנס לשם ישירות מהדפדפן, להעלות תמונה ולראות איך הוא מתמודד איתה לפני שמורידים את הקבצים.
איזו גרסה עדיף להוריד לריצה ראשונית?
אם המטרה היא מהירות וצריכת משאבים נמוכה, הפקודה שמפעילה Q4_0 תיתן את המענה המהיר ביותר. לגרסה המלאה ביותר בדיוק F16 כדאי לפנות רק אם הדיוק הקוונטיזציוני לא מספק אתכם.
איך מריצים
אתם מריצים אותו דרך llama-mtmd-cli מתוך פרויקט llama.cpp. יש גרסה מלאה בדיוק F16, ויש גרסאות מכווצות כמו Q4_0 בשילוב Q8_0 שנועדו להוציא זמני תגובה מהירים בהרבה על חשבון קצת דיוק.
חומרה בסיסית תספיק פה, ואפשר להריץ אותו ישירות על מעבדים מקומיים או מאיצים קטנים במכשיר. אם אתם צריכים לנתח מסמכים מורכבים או נפח עצום של תמונות ברמת פירוט גבוהה, כנראה שעדיף לשלם לפי קריאה לשרת ענן חזק במקום להסתפק במודל בגודל הזה.
ollama run hf.co/LiquidAI/LFM2-VL-1.6B-GGUF:Q4_0
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
10 קבצים במאגר, 5.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון מוגדר כ־other ולא כקוד פתוח מוכר. המשמעות היא שאסור להניח שמותר לשלב אותו במוצר מסחרי. לפני שאתם כותבים שורת קוד אחת למוצר שלכם, אתם חייבים לגשת לעמוד המקורי של המודל ולקרוא את תנאי השימוש הספציפיים שחברת Liquid AI קבעה.