Mach-1-Additive-35B

קוד פתוח

SyzygyResearchapache-2.02026-08-02

qwen3_5_moe
qwen
mach-1
ternary
additive

גרסה מכווצת ומאוד יעילה של מודל תערובת מומחים, שמצליחה לשמור על רוב היכולות המקוריות במשקל זעיר. מתאימה למי שרוצה ביצועי מתמטיקה וקוד חזקים בלי להחזיק שרת יקר.

262,144טוקנים בהקשר
7.6 GBמשקל הקבצים
1,428הורדות בחודש
128לייקים

מה זה

מדובר במודל שמבוסס על ארכיטקטורת תערובת מומחים של Qwen3.5, שמגיע דחוס לתוך 7.6 גיגה-בייט בלבד. במקום להריץ את גרסת המקור המלאה והכבדה, היוצרים דחסו אותו ושמרו בממוצע על 96.3 אחוז מהביצועים של מודל המקור על פני תריסר מבחנים שונים.

בפועל הוא מבריק במיוחד בפתרון בעיות מתמטיות, עם ציון של 97.80 ב־MATH-500 ושימור כמעט מלא של היכולת מול מודל המקור. גם בתכנות הוא מחזיק מעמד יפה מאוד עם 91.77 ב־HumanEval+, מה שאומר שקיצוץ המשקל לא פגע בחשיבה הלוגית הקשה, בניגוד לכימות רגיל שלעיתים שובר משימות מורכבות.

מתאים ל

פתרון בעיות מתמטיקה
משיג תוצאה של 97.80 ב־MATH-500 ושומר על 99.2 אחוז מהיכולת של מודל המקור, מצוין למשימות חישוב מדויקות.
כתיבת קוד ובדיקות
עם ציון 94.18 ב־MBPP+, הוא מספק פתרונות תכנות אמינים מאוד יחסית למודל ששוקל פחות משמונה גיגה-בייט.
ניתוח מסמכים ארוכים
חלון הקשר של 262,144 טוקנים מאפשר להזין תיקי מסמכים מלאים בניתוח מקומי על חומרה צנועה יחסית.

איפה זה נופל

הנקודה החלשה ביותר שלו היא מעקב אחר הוראות מורכבות. במבחן IFBench הוא קיבל ציון של 58.33 בלבד, ושם גם נרשמה הנפילה הגדולה ביותר מול מודל המקור. אם האפליקציה שלכם תלויה בפלט במבנה נוקשה או בהגבלות פורמט הדוקות, תצטרכו לבדוק אותו היטב ולוודא שהוא לא מפספס הנחיות שליליות. גם ביצועי ה־Function Calling שלו בינוניים, עם 72.19 בלבד במבחן BFCL-v3.

שאלות
נפוצות

איך הכיווץ שלו ביחס לכימות רגיל?

הוא שומר על 96.3 אחוז מהביצועים של מודל המקור שלו. במבחני השוואה מול Gemma 4 בכימות שתי סיביות שהגיע רק ל־85.6 אחוז, המודל הזה מתמודד הרבה יותר טוב עם מתמטיקה ומשימות מורכבות.

האם הוא מתאים לשמש כסוכן אוטומטי שמפעיל כלים?

עדיף להיזהר. בבדיקת BFCL-v3 שמודדת קריאה לפונקציות הוא הוציא ציון של 72.19, ובבדיקת IFBench הוא עומד על 58.33. למשימות שדורשות מעקב עיוור אחרי פורמטים וכלים עדיף לבדוק אותו היטב לפני שסומכים עליו בפרודקשן.

איך מריצים

במשקל של 7.6 גיגה-בייט בלבד, אפשר להריץ אותו בקלות על כרטיס מסך בודד עם 12 או 16 גיגה זיכרון, או אפילו על מחשב נייד חזק עם זיכרון משותף. הוא פרוס על פני 111 קבצים שונים, כך שההורדה הראשונית דורשת ניהול קבצים מסודר.

אם אתם צריכים לנצל את מלוא חלון ההקשר שלו, שמגיע ל־262,144 טוקנים, תצטרכו להקצות עוד זיכרון משמעותי עבור ה־KV cache. במקרים שבהם אתם רוצים לנתח מסמכי ענק פעם ביום ולא להחזיק כרטיס ייעודי דלוק ברקע, שירות ענן יהיה זול ופשוט יותר מתחזוקת שרת מקומי.

pip install -U huggingface_hub
hf download SyzygyResearch/Mach-1-Additive-35B

הקבצים

111 קבצים במאגר, 7.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו ולהפיץ אותו בתוך מוצרים סגורים בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗