Qwen3.6-35B-A3B-UD-MLX-4bit

מה זה

מדובר במודל שמשלב טקסט ותמונה ומבוסס על ארכיטקטורת תערובת מומחים. אף שיש לו 35 מיליארד פרמטרים בסך הכול, בכל צעד חישוב פועלים רק 3 מיליארד, 8 מומחים מנותבים ועוד מומחה אחד משותף מתוך 256. חלון ההקשר הטבעי עומד על 262,144 טוקנים וניתן להרחבה עד 1,010,000 טוקנים. הוא כולל תמיכה מובנית בשימור שרשרת חשיבה מהיסטוריית השיחה ובקריאה לפונקציות שמכילות מבנים מקוננים.

במדדי הביצועים הוא מתבלט במיוחד בפיתוח פרונטנד ובטרמינל. במבחן QwenWebBench הוא מגיע לציון של 1397, פער ניכר מול 978 של הגרסה הקודמת באותו גודל. במבחן Terminal-Bench 2.0 הוא רושם 51.5 לעומת 40.5 בגרסה הקודמת. במבחני סוכני תוכנה כמו SWE-bench Verified הוא עומד על 73.4, תוצאה חזקה שמראה יכולת אמינה יותר בפתרון תקלות בקוד מורכב.

מתאים ל

• סוכן כתיבת קוד מקומי

  מתאים לתיקון באגים בספריות קוד שלמות עם תוצאה של 73.4 במבחן SWE-bench Verified.

• אוטומציה בממשקי שורת פקודה

  מיועד להרצת תסריטים ופקודות מערכת בזכות ציון של 51.5 במדד Terminal-Bench 2.0.

• ניתוח מסמכים עם תמונות

  תומך בקלט תמונה וטקסט יחד עם חלון הקשר נרחב של 262,144 טוקנים ללא ענן חיצוני.

איפה זה נופל

השליטה במשימות תכנון וכלים כלליים אינה אחידה. במבחן VITA-Bench המודל משיג 35.6 בלבד, ירידה מול מודלים קומפקטיים אחרים באותו סדר גודל. בבדיקת Tool Decathlon הוא מקבל 26.9, ובמבחן החשיבה המתמטית והמדעית HLE הוא נעצר על 21.4. במשימות שדורשות הבנה מדעית קיצונית או הפעלת סדרת כלים מורכבת שאינה קשורה ישירות לקוד, הוא עדיין טועה לא מעט וצריך לבדוק אותו בקפידה.

איך מריצים

כדי להריץ אותו צריך מק עם שבב אפל סיליקון וספריית mlx מותקנת, מאחר שהמשקלים מומרים ומיועדים לסביבה זו. החבילה שוקלת 20.2 ג'יגה בייט בכימות של 4 ביט, כך שצריך זיכרון אחוד שיכול להכיל את המודל עצמו לצד ההקשר שרוצים לטעון. ההרצה נעשית ישירות דרך פקודת צ'אט של mlx_vlm במסוף.

אם אין לכם חומרת מק עם לפחות 32 ג'יגה בייט זיכרון אחוד, הקובץ פשוט יחנוק את המחשב או לא ייטען. במצב כזה אין היגיון להיאבק עם חומרה לא מתאימה, ועדיף להתחבר לשרת מרוחק או לשירות ענן שמריץ את המודל המלא.

pip install -U huggingface_hub
hf download unsloth/Qwen3.6-35B-A3B-UD-MLX-4bit

הקבצים

13 קבצים במאגר, 20.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00005.safetensors5.4 GB
• model-00002-of-00005.safetensors5.3 GB
• model-00003-of-00005.safetensors5.3 GB
• model-00004-of-00005.safetensors5.2 GB
• model-00005-of-00005.safetensors540.3 MB
• tokenizer.json20.0 MB
• model.safetensors.index.json199.6 KB
• config.json116.6 KB
• README.md66.8 KB
• chat_template.jinja8.1 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.5 KB
• processor_config.json1.2 KB

הרישיון

הקוד והמשקלים זמינים תחת רישיון apache-2.0. מותר להשתמש בהם לצרכים מסחריים, לשנות, להפיץ ולהטמיע במוצרים סגורים. התנאי המרכזי הוא שמירה על הצהרת זכויות היוצרים והרישיון המקורי בקבצים שמפיצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗