Qwen3.5-2B-GGUF

קוד פתוח

unslothapache-2.02026-02-28

transformers
gguf
unsloth
image-text-to-text
endpoints_compatible

מודל משולב טקסט ותמונה קומפקטי במיוחד שרץ בקלות על מחשב אישי. הוא מביא תמיכה בהקשר של 262 אלף טוקנים בלי לחנוק את החומרה.

32.2 GBמשקל הקבצים
258,837הורדות בחודש
149לייקים

מה זה

מדובר במודל ראייה ושפה שמבוסס על שילוב מוקדם בין טוקנים חזותיים לטקסטואליים. המבנה הפנימי שלו משלב שכבות מסוג Gated DeltaNet עם מנגנוני תשומת לב דלילים, שנועדו לאפשר תפוקה מהירה בזמני תגובה נמוכים מאוד. הוא מיועד לעבודה על תמונות יחד עם טקסט, ובנוי לעיבוד רב לשוני רחב של עד 201 שפות וניבים.

לפי המבחנים שפורסמו, הגרסה הזו עוקפת באופן עקבי את הדור הקודם בגודל דומה. במצב חשיבה ב־MMLU-Pro הוא מגיע ל־66.5 נקודות מול 56.5 של קודמו, ובמדד IFBench של עקיבה אחר הוראות הוא עומד על 41.3 מול 26.7. בסביבות סוכנים כמו BFCL-V4 הוא רושם 43.6 ומקדים אפילו את דגם ה־4B הוותיק.

מתאים ל

בדיקת אבות טיפוס
מאפשר לבחון רעיונות של שילוב ראייה וטקסט בזול ובמהירות על חומרה מקומית.
כוונון למשימה ממוקדת
מתאים לאימון ייעודי על דאטה ספציפי שלכם בזכות משקל קל ותמיכה של אנלות'.
מענה טקסטואלי מהיר
מספק מהירות גבוהה במשימות של עקיבה אחר פקודות פשוטות בשפות רבות.

איפה זה נופל

למרות השדרוג הברור מול הדור הקודם, מדובר במודל קטן עם תקרת ביצועים מוגבלת מאוד. במבחני פתרון בעיות ומתמטיקה מורכבת כמו HMMT Nov 25 הוא משיג רק 19.6 נקודות, ובמבחן ההקשר הארוך AA-LCR הוא עומד על 25.6 בלבד מתוך מאה.

המפתחים מציינים במפורש שהגודל הזה מיועד בעיקר למחקר, לפיתוח אבטיפוס ולהתאמה ספציפית בעזרת כוונון עדין. אסור להסתמך עליו בעיניים עצומות למשימות סוכן מורכבות או לאנליזה חזותית קריטית בלי לבצע בדיקות מקיפות על המידע שלכם.

אותה משפחה

Qwen3.5 יצא ב־8 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwen3.5-9B-GGUF1,618,479 Qwen3.5-4B-GGUF928,147 Qwen3.5-122B-A10B-GGUF514,714 Qwen3.5-27B-GGUF477,576 Qwen3.5-397B-A17B-GGUF396,008 Qwen3.5-0.8B-GGUF256,080 Qwen3.5-35B-A3B-GGUF201,183

שאלות
נפוצות

האם אני צריך להוריד את כל 32 הגיגה של המאגר?

לא. המאגר כולל 28 קבצים עם גרסאות כיול שונות בפורמט GGUF. אתם בוחרים ומורידים רק את הקובץ הספציפי שמתאים לרמת הדיוק ומשאבי הזיכרון של המכונה שלכם.

האם המודל יחזיק עיבוד של מסמכים כבדים בתוך הקשר ארוך?

הוא תומך טכנית בעד 262 אלף טוקנים, אבל התוצאות מראות ירידה בביצועים במשימות ארוכות. במבחן AA-LCR הוא קיבל 25.6 נקודות בלבד, כך שלא כדאי לבנות עליו לניתוח עומק של טקסטים ארוכים במיוחד.

איך מריצים

הקבצים מגיעים בפורמט GGUF בחלוקה לגרסאות שונות, כשסך כל המאגר שוקל 32.2 גיגה בייט. עם שתי מיליארד פרמטרים בלבד, אפשר להריץ קוונטיזציה בודדת על מעבד גרפי צנוע מאוד או על מעבד מרכזי בסיסי במחשב נייד בלי להסתבך עם דרישות זיכרון כבדות.

אם אתם צריכים בדיקות מהירות, פרוטוטייפ מקומי או עיבוד תמונות אופליין, שווה בהחלט להוריד את הקובץ המתאים לכם. אם המטרה היא הסקת מסקנות מתמטיות סבוכות או פתרון בעיות לוגיות ברמה אקדמית, עדיף לפנות ל־API של מודל ענק ולא לבנות על משקל נוצה שכזה.

ollama run hf.co/unsloth/Qwen3.5-2B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

28 קבצים במאגר, 32.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מדובר ברישיון קוד פתוח מתירני שמאפשר שימוש מסחרי חופשי, שינוי של המשקולות, שילוב במוצרים סגורים והפצה מחדש, כל עוד שומרים על הודעת זכויות היוצרים ומצרפים עותק של תנאי הרישיון המקורי.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗