Qwen3-VL-235B-A22B-Thinking-GGUF

קוד פתוח

unslothapache-2.02025-09-24

gguf
qwen3_vl_moe
unsloth
qwen
qwen3

מודל ענק שמנתח תמונות, וידאו וטקסט עם יכולות חשיבה מעמיקות. הוא מיועד למי שחייב ביצועי קצה בראייה ממוחשבת ומסוגל לתחזק תשתיות כבדות.

262,144טוקנים בהקשר
3.4 TBמשקל הקבצים
4,762הורדות בחודש
41לייקים

מה זה

מדובר במודל ראייה ושפה בתצורת תערובת מומחים, שמחזיק 235 מיליארד פרמטרים בסך הכל ומפעיל 22 מיליארד בכל שלב. ההתמחות העיקרית שלו היא שילוב בין הבנת קלט חזותי לבין שרשרת חשיבה מורכבת בתחומי מדע, הנדסה ומתמטיקה. הוא כולל חלון הקשר עצום של 262,144 טוקנים, שמאפשר להזין לו מסמכים ארוכים מאוד או סרטוני וידאו שלמים ולבצע איתור אירועים לפי חותמות זמן מדויקות.

מעבר לניתוח וידאו, הוא מיועד לשמש כסוכן תוכנה שמזהה רכיבי ממשק במחשב או בנייד ומפעיל כלים. היכולות החזותיות שלו כוללות גם הפקת קוד ועיצוב ישירות מתמונות, פענוח כתב וסריקות ב־32 שפות שונות, והבנה מרחבית של מיקומי אובייקטים.

מתאים ל

אוטומציית ממשקי משתמש
זיהוי אלמנטים גרפיים במסכים של מחשב או טלפון והפעלת פעולות ישירות על הממשק.
תחקור וניתוח וידאו ארוך
חלון של 256K טוקנים עם סנכרון זמנים מאפשר לאתר אירועים מדויקים מתוך שעות של הקלטה.
חילוץ נתונים מטפסים וסריקות
קריאת מסמכים סרוקים ב־32 שפות, כולל התמודדות עם טקסט מטושטש, נטוי או בתאורה חלשה.

איפה זה נופל

גודל המודל הוא המכשול הראשון, הרצה שלו תדרוש משאבים קיצוניים וזמני השהיה מורגשים בגלל מנגנון החשיבה המעמיק. המפרסמים מציינים תמיכה ב־32 שפות ב־OCR, אך איכות הפענוח והתפקוד הכללי בעברית אינם מפורטים ודורשים בדיקה זהירה. בנוסף, נדרשת התקנה מגרסת הפיתוח של transformers כדי לתמוך בארכיטקטורה.

אותה משפחה

Qwen3-VL יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwen3-VL-4B-Instruct-GGUF321,563 unsloth/Qwen3-VL-2B-Instruct-GGUF101,798 unsloth/Qwen3-VL-8B-Instruct-GGUF89,794 Qwen3-VL-30B-A3B-Instruct-GGUF39,339 Qwen3-VL-30B-A3B-Thinking-GGUF26,883

שאלות
נפוצות

אפשר להריץ את המודל הזה על תחנת עבודה רגילה?

לא. עם משקל של מעל שלושה טרה-בייט במאגר וארכיטקטורה של 235 מיליארד פרמטרים, נדרשת חומרת שרתים ייעודית עם כמות גדולה מאוד של זיכרון גרפי.

מה המשמעות של סיומת Thinking בשם?

הגרסה הזו מאומנת לייצר שרשרת חשיבה מפורטת לפני הפקת התשובה. זה משפר תוצאות בלוגיקה ובמתמטיקה, אבל מאריך את זמן המענה.

איך מריצים

המשקל הכולל של הקבצים במאגר מגיע ל־3.4 טרה-בייט שמחולקים לעשרות קבצים, כך שהרצה מקומית דורשת שרת ייעודי מרובה מאיצים גרפיים עם מאות גיגה-בייט של זיכרון עבודה. מי שמוריד את גרסת ה־GGUF מחפש בדרך כלל קוונטיזציה שתאפשר דחיסה מסוימת, אבל גם כך מדובר במפלצת חומרה שרוב המפתחים לא יצליחו להרים על שרת בודד פשוט.

אם אתם לא מחזיקים קלאסטר ארגוני זמין, עדיף להשתמש בגישה דרך שירות ענן או API. בנוסף, המפרסמים מדגישים שיש להשתמש בדגל jinja בעבודה עם תבנית השיחה כדי למנוע תקלות.

ollama run hf.co/unsloth/Qwen3-VL-235B-A22B-Thinking-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

92 קבצים במאגר, 3.4 TB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד ולהפיץ אותו בחופשיות. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בתוכנה שלכם.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗