Qwopus3.6-27B-Coder-Compat-MTP-GGUF

קוד פתוח

Jackrongapache-2.02026-06-20

transformers
gguf
llama.cpp
image-text-to-text
vision

גרסת GGUF ייעודית למודל קוד של 27 מיליארד פרמטרים. היא כוללת תיקון לתבנית השיחה של קריאות כלים לצד מנגנון חיזוי מרובה טוקנים מובנה להאצת הריצה.

95.2 GBמשקל הקבצים
423,030הורדות בחודש
138לייקים

מה זה

הבסיס כאן הוא מודל קוד צפוף שאומן על גבי Qwen3.6-27B בעזרת טכניקת שחזור מסלולי חשיבה ודאטה מסוכני תוכנה. הוא מיועד למשימות פיתוח רב שלביות, תיקון באגים ומענה לפקודות שדורשות שימוש בכלים חיצוניים. הייחוד של ההפצה הספציפית הזו הוא התאמה של תבנית ה־Jinja, כך שארגומנטים של פונקציות מתקבלים גם כמחרוזות JSON מוכנות וגם כמבני נתונים ישירים בלי להתרסק.

בבדיקות שמופיעות בכרטיס, התבנית המעודכנת פתרה עשרה מתוך עשרה מקרי קצה בהרצה מול llama.cpp ו־minja, לעומת שלושה בלבד בתבנית המקורית, ואפס כניסות ללולאות תקועות. מבחינת ביצועי מודל, גרסת Q5_K_M קיבלה 67.0% פתרון על מבחן SWE-bench Verified של 500 בעיות בלי שימוש במצב מחשבה מפורש. מנגנון ה־MTP שמשולב בקובץ השיג 76.81% קבלת טוקנים בטיוטה, עם קצב פענוח חציוני של 30.53 טוקנים לשנייה שנמדד בחומרה ייעודית.

מתאים ל

סוכני פיתוח תוכנה
תבנית השיחה מעוצבת לתמוך בריצות רב שלביות וקריאות חוזרות לכלים בלי להישבר על מבני נתונים חריגים.
פתרון בעיות בריפוזיטורי
התוצאה במבחן SWE-bench הושגה במצב ישיר ומכוונת ליצירת טלאי קוד לתיקון באגים מורכבים במאגרי קוד.
הרצה מקומית מואצת
ראשי החיזוי המובנים מאפשרים פענוח משוער בלי להריץ מודל טיוטה נפרד לצד המודל הראשי.

איפה זה נופל

זהו שחרור קהילתי ניסיוני שלא עבר בדיקות בטיחות מסודרות או בחינה על משימות כלליות מעבר לקוד. בנוסף, חלון ההקשר המובנה מוגבל ל־32 אלף טוקנים, מה שמחייב הרחבות כמו RoPE לפרויקטים גדולים במיוחד. תמיכת השפות כוללת אנגלית, סינית, ספרדית, רוסית ויפנית, כך שעברית לא נמצאת ברשימת השפות הרשמית ולא מתועדת כנתמכת.

שאלות
נפוצות

מה ההבדל בין גרסה זו לגרסה הרשמית של המודל?

המשקלים של המודל זהים לחלוטין לקבצים המקוריים, כולל 866 הטנזורים שנבדקו בהשוואת גיבוב. השינוי היחיד הוא תיקון לתבנית ה־Jinja שמאפשר טיפול גמיש בפורמט הארגומנטים של קריאות כלים.

האם חייבים להשתמש במנגנון ה־MTP כדי שהמודל יעבוד?

לא. המודל פועל גם בלעדיו, אך ראשי החיזוי מובנים בתוך קובץ ה־GGUF ומאפשרים שיפור בקצב הפקת הטוקנים כשהמנוע שלכם מוגדר לתמוך בזה.

איך מריצים

קובצי ההפצה שוקלים בסך הכול 95.2 גיגה בייט ומחולקים לשמונה חלקים. כדי להריץ משקל כזה בגודל 27B בהרצה מקומית מלאה נדרש כרטיס מסך עם לפחות 24 גיגה זיכרון עבור כימותים קלים, או כרטיס מקצועי יותר אם אתם מתכוונים לפרוס את המודל ללא כימות אגרסיבי יחד עם חלון הקשר של 32 אלף טוקנים.

ההרצה מתבצעת דרך llama.cpp או סביבות מבוססות Transformers שתומכות בקובצי GGUF ופענוח MTP. אם אין לכם גישה למעבד גרפי ברמה הזו או שאתם לא מפתחים סוכן שצריך לעבוד בסביבה מבודדת, הפעלת מודלים מקבילים דרך ממשקי API של ספקים חיצוניים תהיה זולה ופשוטה משמעותית מתחזוקת השרת בעצמכם.

ollama run hf.co/Jackrong/Qwopus3.6-27B-Coder-Compat-MTP-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

Q8_029.0 GB Q6_K22.4 GB Q5_K_M19.5 GB Q4_K_M16.8 GB Q3_K_M13.5 GB F32931.1 MB

הקבצים

8 קבצים במאגר, 95.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל משוחרר ברישיון apache-2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של הקוד והמשקלים, הפצה ושילוב במוצרים פרטיים. הדרישה העיקרית היא שמירה על הודעת זכויות היוצרים ועותק הרישיון המקורי בקבצים המופצים.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗