LFM2.5-VL-1.6B-GGUF

מה זה

מדובר במודל שמשלב קלט של תמונה וטקסט ומחזיר תשובה טקסטואלית, במשקל כולל של 1.6 מיליארד פרמטרים בלבד. LiquidAI הוציאו אותו מראש בפורמט שמיועד להרצה בכלים קלים, כשהדגש הברור הוא על התקנים עם משאבים מוגבלים ולא על שרתי ענק.

ברמת התוכן הוא תומך ברשימה מוגדרת של שפות אירופאיות ואסייתיות, כולל אנגלית, יפנית, קוריאנית, צרפתית, ספרדית, גרמנית, איטלקית ופורטוגזית. כרטיס המודל לא מציג תוצאות מדידה או מבחני ביצועים, כך שקשה לדעת מראש עד כמה הראייה שלו מדויקת לעומת מודלים מוכרים אחרים בלי לבדוק בפועל.

מתאים ל

• זיהוי פשוט במכשירי קצה

  הוא קל מספיק כדי לרוץ מקומית ולתאר תכולת תמונה בלי חיבור לרשת.

• סיווג תמונות מהיר באנגלית

  מתאים למיון ראשוני של קבצים לפי שאילתות טקסט ישירות.

• בוט מקומי על מעבד ביתי

  רץ עם llama.cpp בלי צורך בכרטיס מסך יקר או תשלום על שרתים.

איפה זה נופל

הכרטיס כמעט ריק מפרטים טכניים, מה שמחייב זהירות. עברית לא מופיעה ברשימת השפות הנתמכות, כך שאי אפשר לסמוך עליו בתרגום או בפענוח טקסט מקומי. בנוסף, מודל של 1.6 מיליארד פרמטרים נוטה לפספס פרטים קטנים בתמונות, ואין שום מידע רשמי על מגבלות אבטחה או הזיות.

אותה משפחה

LFM2.5-VL יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

אתם מריצים אותו דרך llama-cli של llama.cpp ישירות מול המאגר, או מורידים את קובצי ה־GGUF למחשב. ההרצה כוללת פקודה פשוטה עם דגלים להגדרת יצירתיות נמוכה, העלאת נתיב לתמונה בתוך הצ'אט וכתיבת השאלה שלכם.

בגלל הגודל הקומפקטי, המודל הזה יעלה על מעבד רגיל או כרטיס מסך בסיסי עם מעט זיכרון. אם אתם צריכים ניתוח מורכב של מסמכים ארוכים או תמונות מטושטשות, עדיף להשתמש ב־API של מודל ענן גדול.

ollama run hf.co/LiquidAI/LFM2.5-VL-1.6B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

16 קבצים במאגר, 10.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• LFM2.5-VL-1.6B-BF16.gguf2.3 GB
• LFM2.5-VL-1.6B-F16.gguf2.3 GB
• LFM2.5-VL-1.6B-Q8_0.gguf1.2 GB
• LFM2.5-VL-1.6B-Q6_K.gguf962.8 MB
• mmproj-LFM2.5-VL-1.6b-BF16.gguf855.8 MB
• mmproj-LFM2.5-VL-1.6b-F16.gguf854.0 MB
• LFM2.5-VL-1.6B-Q5_K_M.gguf843.4 MB
• LFM2.5-VL-1.6B-Q4_K_M.gguf730.9 MB
• LFM2.5-VL-1.6B-Q4_0.gguf695.8 MB
• mmproj-LFM2.5-VL-1.6b-Q8_0.gguf583.1 MB
• LICENSE10.6 KB
• README.md1.6 KB
• .gitattributes1.6 KB
• leap/Q4_0.json374 B
• leap/Q8_0.json374 B
• leap/F16.json372 B

הרישיון

הרישיון מוגדר כ־other, כלומר תנאים ייחודיים שלא הוגדרו כרישיון קוד פתוח סטנדרטי. אם אתם מתכננים לשלב אותו במוצר מסחרי, חובה לגשת למסמכי הרישיון המקוריים באתר החברה ולוודא שאין שם הגבלות הפצה.

הרישיון המלא בעמוד המודל ↗