Qwen3-Coder-Next-REAP-48B-A3B-GGUF

מה זה

מדובר במודל שפה לתכנות שמבוסס על ארכיטקטורת תערובת מומחים, MoE, עם שילוב בין שכבות DeltaNet לשכבות קשב רגילות. המבנה המקורי כלל 512 מומחים, אך היוצר חתך 40% מהם בשיטת REAP והשאיר 308 מומחים בלבד. בזמן ריצה פעילים רק 10 מומחים לצד מומחה משותף אחד, מה שמאפשר להריץ מעט מאוד חישובים בכל טוקן.

חלון ההקשר המקורי עומד על 262,144 טוקנים, נתון עצום שמאפשר לבלוע מאגרי קוד שלמים בבת אחת. הדוגמאות שהועלו מציגות אותו מתמודד עם משימות סוכן כמו שכפול ריפו של llama.cpp וסקירת Pull Request, וגם כתיבת קוד פרונטאנד מורכב ב־Three.js מאפס.

מתאים ל

• סקירת קוד ב־PR

  קריאת שינויים מורכבים במאגר וניתוח שגיאות בזכות חלון הקשר הענק והיכולת לפעול כסוכן אוטונומי.

• פיתוח גרפיקה ב־Three.js

  יצירת אנימציות, מערכות חלקיקים ושיידרים לפי מפרט טכני מפורט בלי לאבד את הקונטקסט.

• עבודה מקומית מהירה

  קבלת השלמות קוד במהירות גבוהה יחסית לגודל המודל, בזכות הפעלה של שלושה מיליארד פרמטרים בלבד.

איפה זה נופל

החיתוך האגרסיבי של 40% מהמומחים באמצעות REAP חוסך מקום, אבל כרטיס המודל לא מציג שום מבחן ביצועים מספרי שמשווה אותו למקור. לא ברור כמה דיוק אבד בדרך, במיוחד בלוגיקה מורכבת של תכנות או בשפות פחות נפוצות. בנוסף, חלון הקשר של 262K דורש משאבי זיכרון אדירים ל־KV cache, כך שקשה מאוד לנצל את כולו בפועל על חומרה מקומית בלי לקבל שגיאות זיכרון.

איך מריצים

הקבצים בפורמט GGUF שוקלים יחד 296 גיגה בייט ומחולקים ל־14 קבצים. כדי להריץ את הגרסאות הכבדות כמו Q8_0 תצטרכו שרת עם כמה כרטיסי מסך חזקים או כמות עצומה של זיכרון RAM מאוחד, כי המשקל הכללי לא נכנס בכרטיס ביתי רגיל.

אם אתם רצים על חומרה צנועה יותר, גרסת Q4_K_XL תדרוש פחות זיכרון ותרוץ מהר יותר בזכות 3 מיליארד הפרמטרים הפעילים בלבד. עדיין, אם אין לכם תחנת עבודה ייעודית עם עשרות גיגה בייט של זיכרון פנוי, עדיף להשתמש ב־API מרוחק במקום להסתבך עם הורדת מאות גיגות.

ollama run hf.co/lovedheart/Qwen3-Coder-Next-REAP-48B-A3B-GGUF:Q8_0

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

14 קבצים במאגר, 296 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Qwen3-Coder-Next-REAP-48B-A3B-Q8_0.gguf54.5 GB
• Qwen3-Coder-Next-REAP-48B-A3B-Q6_K_XL.gguf43.4 GB
• Qwen3-Coder-Next-REAP-48B-A3B-Q5_K_XL.gguf38.2 GB
• Qwen3-Coder-Next-REAP-48B-A3B-Q4_K_XL.gguf33.4 GB
• Qwen3-Coder-Next-REAP-48B-A3B-Q3_K_XL.gguf27.9 GB
• Qwen3-Coder-Next-REAP-48B-A3B-Q2_K_XL.gguf22.9 GB
• BF16/Qwen3-Coder-Next-REAP-48B-A3B-BF16-00005-of-00006.gguf20.0 GB
• BF16/Qwen3-Coder-Next-REAP-48B-A3B-BF16-00001-of-00006.gguf19.5 GB
• BF16/Qwen3-Coder-Next-REAP-48B-A3B-BF16-00004-of-00006.gguf19.5 GB
• BF16/Qwen3-Coder-Next-REAP-48B-A3B-BF16-00003-of-00006.gguf19.4 GB
• BF16/Qwen3-Coder-Next-REAP-48B-A3B-BF16-00002-of-00006.gguf19.4 GB
• BF16/Qwen3-Coder-Next-REAP-48B-A3B-BF16-00006-of-00006.gguf35.7 MB
• .gitattributes2.6 KB
• README.md2.1 KB

הרישיון

המודל מופץ תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של הקוד והפצה מחדש, גם במוצרים סגורים. התנאי העיקרי הוא שמירת הקרדיט והודעת הרישיון המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗