unsloth/Qwen3-VL-2B-Instruct-GGUF

קוד פתוח

unslothapache-2.02025-10-30

transformers
gguf
unsloth
image-text-to-text
endpoints_compatible

מודל ראייה ושפה קטן במיוחד שרץ מקומית על מחשב רגיל. הוא מסוגל לקרוא תמונות, לנתח וידאו ולפענח טקסט בלי לשלוח שום מידע לענן.

31.2 GBמשקל הקבצים
101,798הורדות בחודש
42לייקים

מה זה

מדובר בגרסת שני מיליארד פרמטרים של סדרת Qwen3-VL שעברה המרה לפורמט GGUF על ידי Unsloth, כולל תיקון לתבנית השיחה. המודל מתמודד עם תמונות ווידאו לצד טקסט רגיל, כולל יכולות של הפעלת ממשקי מחשב וסלולר, פענוח קוד ויזואלי כמו HTML או Draw.io, ועיבוד מסמכים ארוכים בזכות חלון הקשר של 256K שמסוגל להתרחב עד מיליון טוקנים.

הייחוד כאן הוא השילוב של ארכיטקטורת DeepStack לחיבור פרטים דקים מתמונות יחד עם Interleaved-MRoPE להבנת רצף זמן בוידאו. במבחני הביצועים הוא מכוון לתת מענה שמזכיר מודלי טקסט ייעודיים לצד פענוח כתב מורחב ב־32 שפות, גם בתנאי צילום קשים כמו טשטוש או הטיה. עבור מודל בקנה מידה של 2B, מדובר ביכולות רב־תחומיות שחורגות ממה שהיה מקובל בגדלים האלה.

מתאים ל

חילוץ נתונים ממסמכים וטפסים
זיהוי תווים ב־32 שפות גם בצילום מטושטש או עקום ישירות על המכשיר.
סוכן בדיקות לממשקי משתמש
זיהוי אלמנטים גרפיים במסכי מחשב וטלפון להפעלת כפתורים וממשקים.
המקת תרשימים לקוד
הפיכת צילומי מסך ותרשימי זרימה ישירות למבנה של Draw.io או HTML.

איפה זה נופל

הכרטיס מציג שיפורים נרחבים אבל זה עדיין מודל של שני מיליארד פרמטרים. היכולת שלו בהסקה מתמטית מורכבת ובהבנת שאלות רב־שלביות מוגבלת בהשוואה לגרסאות הגדולות של 32B או 8B שהוזכרו בהשוואות. בנוסף, הכרטיס מציין שהתמיכה ב־transformers דורשת התקנה ישירות מקוד המקור מגיטהאב כי גרסה 4.57.0 טרם שוחררה רשמית בזמן הפרסום, מה שיכול לייצר שבירות תאימות בסביבות עבודה קיימות. לפני שמשלבים אותו בזיהוי ממשקים או חילוץ מידע קריטי, חייבים לבדוק הזיות בפרטים קטנים.

אותה משפחה

Qwen3-VL יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwen3-VL-4B-Instruct-GGUF321,563 unsloth/Qwen3-VL-8B-Instruct-GGUF89,794 Qwen3-VL-30B-A3B-Instruct-GGUF39,339 Qwen3-VL-30B-A3B-Thinking-GGUF26,883 Qwen3-VL-235B-A22B-Thinking-GGUF4,762

שאלות
נפוצות

האם צריך להוריד את כל 31 הגיגהבייט של הקבצים?

לא. המאגר מכיל גרסאות קוונטיזציה שונות של המודל. מורידים רק קובץ GGUF יחיד ברמת הדיוק והגודל שמתאימים לחומרה שלכם.

איך מריצים אותו עם ספריית transformers הרגילה?

הכרטיס דורש להתקין את transformers ישירות מגרסת הפיתוח בגיטהאב, מאחר שהתמיכה במודל טרם נכנסה לגרסה היציבה בזמן הפרסום.

איך מריצים

את קובצי ה־GGUF מריצים ישירות דרך מנועים כמו llama.cpp או סביבות שתומכות בקוונטיזציות של Unsloth Dynamic 2.0. הדף כולל 32 קבצים במשקל כולל של 31.2 גיגהבייט שמחולקים לפי רמות דחיסה שונות, אבל כדי להריץ בפועל אתם מורידים רק קובץ בודד בהתאם לדחיסה שבחרתם. מודל 2B בדחיסה ממוצעת דורש מעט מאוד זיכרון ויכול לרוץ בקלות על מעבד רגיל או כרטיס מסך בסיסי עם 4 עד 6 גיגהבייט זיכרון.

אם אתם צריכים רק תיוג מהיר של כמה תמונות ביום או שאתם בונים שירות שחייב לנתח שעות של וידאו בזמן אמת עם אלפי בקשות במקביל, כנראה שעדיף לשלם לפי קריאה ל־API של מודל ענן חזק. הפתרון המקומי מתאים בעיקר כשיש מגבלת פרטיות או שרוצים אפס עלויות תשתית פר שאילתה.

ollama run hf.co/unsloth/Qwen3-VL-2B-Instruct-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

32 קבצים במאגר, 31.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד והמשקלים, ולשלב אותו במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים ונוסח הרישיון המקורי.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗