Qwen3-Coder-Next-GGUF

מה זה

מדובר בארכיטקטורת תערובת מומחים שכוללת 512 מומחים בסך הכול, אך מנתבת כל טוקן לעשרה מומחים פעילים בלבד לצד מומחה משותף אחד. השילוב הזה שומר על מהירות חישוב גבוהה שמזכירה מודלים קטנים בהרבה, יחד עם קיבולת ידע של מודל רחב. המודל מיועד מראש לעבודה מול כלי פיתוח, ממשקי שורת פקודה כמו קלוד קוד, וסביבות עבודה מודרניות.

הוא מאומן ישירות על שימוש בכלים, התאוששות משגיאות ריצה והבנת הקשרים ארוכים במיוחד של עד 262,144 טוקנים. במקום לנסות לפתור הכול בבת אחת, הדגש כאן הוא על סוכני פיתוח שמריצים פקודות, מקבלים פידבק ומתקנים את עצמם לאורך זמן עבודה רציף.

מתאים ל

• סוכן תיקון קוד בסביבת פיתוח

  מתאים לעבודה בתוך כלי שורת פקודה כמו קלוד קוד, בזכות יכולת מובנית לקרוא לכלים ולהתאושש מטעויות ריצה.

• ניתוח בסיסי קוד גדולים

  תמיכה מובנית ב־256k טוקנים מאפשרת לטעון קבצים מרובים ומסמכי ארכיטקטורה ישירות להקשר בלי לחתוך אותם.

• שרת שירותי קוד מקומי בארגון

  הפעלת נקודת קצה פרטית לחלוטין בארגון שדורש אבטחת מידע, עם עלות חישוב נמוכה יחסית בזכות 3 מיליארד מופעלים.

איפה זה נופל

המודל הזה לא כולל מצב חשיבה מובנה ולא פולט בלוקים של תהליך מחשבה, כך שאי אפשר לבקש ממנו לנמק שלב אחרי שלב בשיטה הזו. בנוסף, גרסאות ההרצה הראשונות סבלו מבאג בלאמה סי פי פי שגרם לו להיכנס ללולאות אינסופיות ולפלוט זבל, וכן מתקלות בפענוח קריאות לפונקציות. חייבים לוודא שאתם מריצים גרסאות מעודכנות של כלי ההרצה, ושיש לכם מספיק זיכרון לחלון ההקשר בלי לחטוף קריסות פתאומיות באמצע משימה.

איך מריצים

כדי להריץ גרסאות מכווצות בפורמט 4 ביט, צריך מחשב עם יותר מ־45 גיגה זיכרון מאוחד או שילוב מקביל של זיכרון כרטיס מסך וזיכרון מערכת. לגרסאות 2 ביט תצטרכו לפחות 30 גיגה. אפשר לטעון אותו ישירות דרך כלי הרצה כמו לאמה סי פי פי, אולאמה, או להרים שרת תואם ממשק אופן איי איי בעזרת וי אל אל אם או אס ג'י לאנג עם הגדרת פיצול לשני כרטיסי מסך לפחות.

אם אין לכם תחנת עבודה חזקה או מקבוק עם הרבה זיכרון מאוחד, שמירה על חלון ההקשר המלא של 256k תפיל את השרת על חוסר זיכרון. במקרה כזה כדאי להגביל את ההקשר מראש ל־32,768 טוקנים, או פשוט לצרוך שרת קיים דרך ממשק תוכנה במקום להיאבק בהרצה עצמית.

ollama run hf.co/unsloth/Qwen3-Coder-Next-GGUF:Q5_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

66 קבצים במאגר, 1.6 TB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• UD-Q6_K/Qwen3-Coder-Next-UD-Q6_K-00002-of-00003.gguf50.0 GB
• UD-Q6_K_XL/Qwen3-Coder-Next-UD-Q6_K_XL-00002-of-00003.gguf50.0 GB
• UD-Q5_K_M/Qwen3-Coder-Next-UD-Q5_K_M-00002-of-00003.gguf49.9 GB
• UD-Q5_K_XL/Qwen3-Coder-Next-UD-Q5_K_XL-00002-of-00003.gguf49.9 GB
• Q6_K/Qwen3-Coder-Next-Q6_K-00002-of-00003.gguf49.8 GB
• Q8_0/Qwen3-Coder-Next-Q8_0-00002-of-00003.gguf49.8 GB
• UD-Q8_K_XL/Qwen3-Coder-Next-UD-Q8_K_XL-00002-of-00003.gguf49.8 GB
• Q5_K_S/Qwen3-Coder-Next-Q5_K_S-00002-of-00003.gguf49.8 GB
• Q4_1/Qwen3-Coder-Next-Q4_1-00002-of-00003.gguf49.7 GB
• UD-Q5_K_S/Qwen3-Coder-Next-UD-Q5_K_S-00002-of-00003.gguf49.7 GB
• Qwen3-Coder-Next-UD-Q4_K_XL.gguf49.6 GB
• Q5_K_M/Qwen3-Coder-Next-Q5_K_M-00002-of-00003.gguf49.6 GB
• BF16/Qwen3-Coder-Next-BF16-00003-of-00004.gguf49.4 GB
• BF16/Qwen3-Coder-Next-BF16-00002-of-00004.gguf49.4 GB
• Qwen3-Coder-Next-UD-Q4_K_M.gguf49.3 GB
• BF16/Qwen3-Coder-Next-BF16-00001-of-00004.gguf49.0 GB
• Qwen3-Coder-Next-Q4_K_M.gguf48.5 GB
• Qwen3-Coder-Next-MXFP4_MOE.gguf48.0 GB
• Qwen3-Coder-Next-UD-Q4_K_S.gguf46.1 GB
• Qwen3-Coder-Next-Q4_K_S.gguf45.5 GB
• Qwen3-Coder-Next-Q4_0.gguf45.3 GB
• Qwen3-Coder-Next-IQ4_NL.gguf45.1 GB
• Qwen3-Coder-Next-IQ4_XS.gguf42.7 GB
• Qwen3-Coder-Next-UD-IQ4_NL.gguf39.2 GB
• Qwen3-Coder-Next-UD-IQ4_XS.gguf38.4 GB
• Qwen3-Coder-Next-Q3_K_M.gguf38.3 GB
• UD-Q8_K_XL/Qwen3-Coder-Next-UD-Q8_K_XL-00003-of-00003.gguf36.6 GB
• Qwen3-Coder-Next-UD-Q3_K_XL.gguf36.3 GB
• Qwen3-Coder-Next-UD-Q3_K_M.gguf35.9 GB
• Q8_0/Qwen3-Coder-Next-Q8_0-00003-of-00003.gguf35.0 GB
• Qwen3-Coder-Next-Q3_K_S.gguf34.6 GB
• Qwen3-Coder-Next-UD-Q3_K_S.gguf33.3 GB
• Qwen3-Coder-Next-UD-IQ3_S.gguf29.7 GB
• Qwen3-Coder-Next-Q2_K_L.gguf29.3 GB
• Qwen3-Coder-Next-Q2_K.gguf29.2 GB
• Qwen3-Coder-Next-UD-IQ3_XXS.gguf28.5 GB
• Qwen3-Coder-Next-UD-Q2_K_XL.gguf26.8 GB
• Qwen3-Coder-Next-UD-IQ2_M.gguf25.0 GB
• Qwen3-Coder-Next-UD-IQ2_XXS.gguf23.3 GB
• UD-Q6_K_XL/Qwen3-Coder-Next-UD-Q6_K_XL-00003-of-00003.gguf23.2 GB

הרישיון

המודל מופץ תחת רישיון אפאצ'י 2.0 המקובל. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של המשקלים, שילוב במוצרים פרטיים או ציבוריים והפצה מחדש, בלי דרישה לחלוק את קוד המקור של המוצר שלכם. התנאי העיקרי הוא שמירת הודעת זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗