Qwen3.5-0.8B-GGUF

מה זה

הארכיטקטורה כאן משלבת רשתות Gated Delta יחד עם מנגנון קשב מקומי, והיא כוללת אנקודר לראייה שמאפשר קלט של תמונה וטקסט יחד. המודל מגיע עם חלון הקשר ענק של 262,144 טוקנים ותמיכה רחבה בשפות לפי נתוני היצרן.

בגודל כזה, היכולות המעשיות מוגבלות מאוד. במבחני שפה כמו MMLU Pro הוא מוציא 29.7 במצב רגיל ו־42.3 במצב חשיבה, תוצאות שממחישות את הפער מול מודלים גדולים יותר. במבחני הגיון מתמטי של HMMT התוצאות כלל אינן זמינות בכרטיס, ובמבחני סוכנים כמו TAU2 Bench הוא מקבל רק 11.6 נקודות, כך שאי אפשר לסמוך עליו לתהליכים מורכבים.

מתאים ל

• פרוטוטייפ מקומי משולב תמונה

  בדיקת היתכנות מהירה לקריאת טקסט או תיאור בסיסי של תמונה ישירות על מחשב נייד בלי להרים שרת.

• כוונון ייעודי למשימת ראייה

  בסיס קל וזול לאימון נוסף על סט נתונים פרטי ומוגדר מראש, במיוחד עם הכלים של אנלוט'.

• סיווג תמונות וטקסט אופליין

  מיון ראשוני ופשוט של קבצים בסביבה מנותקת רשת שבה אסור למידע לצאת החוצה.

איפה זה נופל

הנתונים מראים נפילה חדה במשימות שדורשות היגיון רב שלבי. במבחן GPQA הוא מקבל רק 11.9 נקודות, ובמשימות הקשר ארוך ב־AA LCR הוא מגיע ל־4.7 בלבד, מה שאומר שחלון ההקשר הגדול לא מתורגם לאחזור אמין בפועל. היוצרים עצמם מציינים שהשימוש המיועד הוא פרוטוטיפים, מחקר או כוונון עדין למשימה צרה.

אותה משפחה

Qwen3.5 יצא ב־8 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

הקבצים בפורמט GGUF ובסך הכל שוקלים 13.1 ג'יגה בייט על פני 28 קבצים, שכוללים רמות קוונטיזציה שונות של אנלוט' למודל השפה ולרכיב הראייה. להרצה מקומית ב־Transformers או מנועים תואמים צריך זיכרון RAM או VRAM בסיסי בלבד, וכרטיס מסך ביתי פשוט יחזיק אותו בקלות.

אם אתם צריכים דיוק גבוה, פתרון בעיות קוד או הסקת מסקנות ארוכה, עדיף לפנות ל־API של מודל ענן חזק. המודל המקומי הזה משתלם רק אם יש אילוץ קשיח של פרטיות, היעדר רשת או תקציב שאינו מאפשר תשלום על קריאות שרת.

ollama run hf.co/unsloth/Qwen3.5-0.8B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

28 קבצים במאגר, 13.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Qwen3.5-0.8B-BF16.gguf1.5 GB
• Qwen3.5-0.8B-UD-Q8_K_XL.gguf1.2 GB
• Qwen3.5-0.8B-Q8_0.gguf811.8 MB
• Qwen3.5-0.8B-UD-Q6_K_XL.gguf771.1 MB
• Qwen3.5-0.8B-Q6_K.gguf639.0 MB
• Qwen3.5-0.8B-UD-Q5_K_XL.gguf606.6 MB
• Qwen3.5-0.8B-Q5_K_M.gguf590.1 MB
• Qwen3.5-0.8B-Q5_K_S.gguf568.9 MB
• Qwen3.5-0.8B-UD-Q4_K_XL.gguf558.8 MB
• Qwen3.5-0.8B-Q4_1.gguf535.2 MB
• Qwen3.5-0.8B-Q4_K_M.gguf532.5 MB
• Qwen3.5-0.8B-Q4_K_S.gguf508.1 MB
• Qwen3.5-0.8B-Q4_0.gguf507.2 MB
• Qwen3.5-0.8B-IQ4_NL.gguf506.9 MB
• Qwen3.5-0.8B-IQ4_XS.gguf492.6 MB
• Qwen3.5-0.8B-UD-Q3_K_XL.gguf492.2 MB
• Qwen3.5-0.8B-Q3_K_M.gguf470.2 MB
• Qwen3.5-0.8B-Q3_K_S.gguf440.8 MB
• Qwen3.5-0.8B-UD-Q2_K_XL.gguf417.7 MB
• mmproj-F32.gguf402.4 MB
• Qwen3.5-0.8B-UD-IQ3_XXS.gguf398.2 MB
• Qwen3.5-0.8B-UD-IQ2_M.gguf371.9 MB
• Qwen3.5-0.8B-UD-IQ2_XXS.gguf338.2 MB
• mmproj-BF16.gguf207.3 MB
• mmproj-F16.gguf205.0 MB
• imatrix_unsloth.gguf_file1.1 MB
• README.md63.0 KB
• .gitattributes3.1 KB

הרישיון

רישיון apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של המשקלים והפצה של המודל בתוך מוצר ללא תשלום תמלוגים. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים שתפיצו.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗