Qwen3.6-27B-A3B-Coder-MTP-GGUF

מה זה

התהליך מאחורי הפרויקט הזה לקח את מודל הבסיס ודילל מתוכו שבעים ושניים מומחים בכל שכבה, תוך שמירה מכוונת על מומחים שמצטיינים בכתיבת קוד לפי מדדי LiveCodeBench ו־MultiPL-E. כדי לפצות על הדילול בלי אימון מחדש, הניתוב מפעיל עשרה מומחים לכל טוקן במקום שמונה כברירת מחדל.

התוצאה במספרים מראה שההימור הצליח במשימות תכנות: ציון של 0.840 ב־MultiPL-E, שעוקף אפילו את מודל המקור הגדול, לצד 0.970 ב־HumanEval. המחיר מגיע ביכולות כלליות יותר. במבחן IFEval למעקב אחר הוראות יש ירידה חדה מ־0.960 במקור ל־0.730 כאן, וגם ב־MATH-500 נרשמה נפילה מ־0.730 ל־0.620. זה מודל שנבנה כדי לכתוב תוכנה, ושם הוא מרוכז.

מתאים ל

• השלמת קוד מקומית ב־IDE

  מציג דיוק של 0.97 ב־HumanEval ורץ ב־16 גיגה־בייט, מושלם לעבודה מקומית ומאובטחת.

• תרגום קוד בין שפות

  ציון 0.840 ב־MultiPL-E מבטיח תמיכה רחבה ומדויקת ברוסט, ג'אווה וג'אווהסקריפט.

• סקירת קוד ובדיקת באגים

  יכולת הסקת המסקנות מתמקדת בבדיקת לוגיקה תכנותית מבלי לבזבז זיכרון על מומחים כלליים.

איפה זה נופל

החולשה הבולטת ביותר היא הפעלת כלים וסוכנים אוטונומיים. במבחן tool-eval-bench המודל קיבל 123.2 נקודות בלבד והגיע למקום האחרון בקבוצה שלו, עם ציון נמוך של ארבעים אחוז בתכנון עצמאי וחמש עשרה תקלות בטיחות קריטיות בחמישה ניסיונות. הדיוק בתחביר הקריאות מושלם, אבל היכולת לנהל תהליך ארוך נפגעה קשות. בנוסף, יש לו נטייה לחפירה מוגזמת בשאלות פתוחות, עד כדי שאיבת כל חלון ההקשר במחשבות פנימיות אם לא תגבילו אותו מראש.

איך מריצים

הגרסה המומלצת לפי המפתח היא CD-IQ4_K_M ששוקלת סביב 16 גיגה־בייט, ומציגה איכות זהה למשקל מלא במבחני קוד. בשבילה תצטרכו כרטיס מסך בודד עם 24 גיגה זיכרון כדי להחזיק את המודל יחד עם חלון הקשר סביר.

חובה להשתמש בגרסת llama.cpp עדכנית, לפחות b8508, כדי להגדיר נכון את מגבלת החשיבה עם דגל jinja ומשפט עצירה מתאים, אחרת המודל ימשיך לנמק בתוך התשובה הגלויה. שימו לב לבעיית דרייברים מוכרת: גרסאות IQ2_M ו־IQ3_M מייצרות פלט שבור לחלוטין על כרטיסי אנבידיה מסדרת בלקוול, כך שעל חומרה כזו עדיף להיצמד לגרסאות ה־K.

ollama run hf.co/ManniX-ITA/Qwen3.6-27B-A3B-Coder-MTP-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

57 קבצים במאגר, 409 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Qwen3.6-27B-A3B-Coder-F16.gguf52.5 GB
• Qwen3.6-27B-A3B-Coder-Q8_0.gguf27.9 GB
• Qwen3.6-27B-A3B-Coder-Q6_K_L.gguf21.8 GB
• Qwen3.6-27B-A3B-Coder-Q6_K.gguf21.6 GB
• Qwen3.6-27B-A3B-Coder-CD-Q6_K.gguf21.1 GB
• Qwen3.6-27B-A3B-Coder-Q5_K_L.gguf19.0 GB
• Qwen3.6-27B-A3B-Coder-Q5_K_M.gguf18.7 GB
• Qwen3.6-27B-A3B-Coder-Q5_K_S.gguf18.2 GB
• Qwen3.6-27B-A3B-Coder-CD-Q5_K_M.gguf17.8 GB
• Qwen3.6-27B-A3B-Coder-CD-IQ4_K_M.gguf16.7 GB
• Qwen3.6-27B-A3B-Coder-Q4_K_L.gguf16.4 GB
• Qwen3.6-27B-A3B-Coder-Q4_K_M.gguf16.1 GB
• Qwen3.6-27B-A3B-Coder-Q4_K_S.gguf15.1 GB
• Qwen3.6-27B-A3B-Coder-IQ4_NL.gguf15.0 GB
• Qwen3.6-27B-A3B-Coder-CD-Q4_K_M.gguf14.7 GB
• Qwen3.6-27B-A3B-Coder-IQ4_XS.gguf14.2 GB
• Qwen3.6-27B-A3B-Coder-Q3_K_L.gguf13.7 GB
• Qwen3.6-27B-A3B-Coder-Q3_K_XL.gguf13.2 GB
• Qwen3.6-27B-A3B-Coder-Q3_K_M.gguf12.7 GB
• Qwen3.6-27B-A3B-Coder-CD-Q3_K_L.gguf12.3 GB
• Qwen3.6-27B-A3B-Coder-IQ3_M.gguf11.7 GB
• Qwen3.6-27B-A3B-Coder-Q3_K_S.gguf11.5 GB
• Qwen3.6-27B-A3B-Coder-Q2_K_L.gguf10.4 GB
• Qwen3.6-27B-A3B-Coder-IQ2_M.gguf9.1 GB
• Qwen3.6-27B-A3B-Coder-CD-IQ2_XS_h.gguf8.2 GB
• Qwen3.6-27B-A3B-Coder-IQ2_XS.gguf8.2 GB
• mmproj-Qwen3.6-27B-A3B-Coder-F16.gguf899.3 MB
• imatrix.dat139.1 MB
• toolbench_scores.png194.9 KB
• README.md15.9 KB
• .gitattributes3.9 KB
• generation_config.json202 B
• Qwen3.6-27B-A3B-Coder-CD-IQ2_XS_h.gguf.sha256105 B
• Qwen3.6-27B-A3B-Coder-CD-IQ4_K_M.gguf.sha256104 B
• Qwen3.6-27B-A3B-Coder-CD-Q3_K_L.gguf.sha256103 B
• Qwen3.6-27B-A3B-Coder-CD-Q4_K_M.gguf.sha256103 B
• Qwen3.6-27B-A3B-Coder-CD-Q5_K_M.gguf.sha256103 B
• Qwen3.6-27B-A3B-Coder-CD-Q6_K.gguf.sha256101 B
• Qwen3.6-27B-A3B-Coder-Q3_K_XL.gguf.sha256101 B
• Qwen3.6-27B-A3B-Coder-IQ2_XS.gguf.sha256100 B

הרישיון

הרישיון הוא Apache 2.0, שמאפשר שימוש מסחרי מלא, שינוי קוד והפצה חופשית ללא תמלוגים. התנאי העיקרי הוא שימור הודעות זכויות היוצרים וצירוף עותק הרישיון בכל הפצה של הקבצים או המוצר.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗