qwen3.5-4B-super-coder

מה זה

הבסיס כאן הוא שילוב של שכבות גייטד דלתא-נט ותשומת לב מלאה, כך שרק רבע מהשכבות שומרות מטמון מלא. התוצאה היא תפיסת זיכרון של כ־0.4 גיגה-בייט בלבד עבור הקשר של 32 אלף טוקנים, מה שמאפשר להריץ קוד עם חלון גדול על חומרה צנועה.

היוצר העביר אותו תהליך אימון של חמישה שלבים. זה התחיל מזיקוק של 140 אלף דוגמאות מקלוד סונט ואופוס 4.6 כדי לחקות סגנון וכתיבת בלוקי חשיבה, המשיך באימוני קוד וקריאות לכלים עם התאמת סכמות ג'ייסון, והסתיים בכוונון על עקבות סוכנים של פייבל 5.

על הנייר זה נשמע מרשים, אבל מבחני הביצועים של גרסת הקוונטיזציה שנבדקה מראים תמונה קשה. במבחני התכנות HumanEval פלוס ו־MBPP פלוס התוצאה שנמדדה היא אפס עגול, ושיעור התקינות של מבני ג'ייסון עומד על 40 אחוז בלבד. המפרסם עצמו מציין שייתכן שהדחיסה פגעה ביכולות בצורה דרסטית, כך שלא כדאי לבנות על ביצועים אמינים בלי לבדוק לעומק.

מתאים ל

• ניסויי הרצה מקומית בטלפון

  ניצול תפיסת הזיכרון הנמוכה כדי לבדוק איך מודל עם מצב חשיבה מתנהג על מכשיר קצה עם 8 גיגה זיכרון.

• מחקר על זיקוק סוכנים

  בדיקת ההשפעה של עקבות אימון מבוססי קלוד ופייבל על מודלים קטנים, ישירות מתוך משקלי הרשת.

• בדיקת מבנה בלוקי מחשבה

  בחינת האופן שבו המודל פותח תגיות חשיבה ומפרט שלבי עבודה לפני שהוא ניגש לכתוב את הפלט עצמו.

איפה זה נופל

החולשה המרכזית צועקת מתוך דוח הביצועים הרשמי. ציון של אפס במבחני יצירת קוד סטנדרטיים מראה שהגרסה הדחוסה מתקשה לייצר פתרונות תקינים. בנוסף, תקינות הג'ייסון נכשלה ברוב המקרים עם 40 אחוזי הצלחה בלבד, מה שהופך שימוש בכלים לאוטומציה לרולטה מסוכנת. מודלים אחרים בגודל דומה אמנם מוגבלים, אבל כאן יש פער חריג בין שלבי האימון המורכבים לבין התוצאה שנמדדה בפועל.

איך מריצים

המשקל הכולל של הקבצים עומד על 3.2 גיגה-בייט בפורמט בי-פלואוט 16, והגרסה הדחוסה תופסת כ־2.6 גיגה-בייט. זה אומר שאפשר להריץ אותו ישירות על מחשבים ניידים פשוטים, מכשירי אייפון 15 פרו, אייפדים או טלפונים תומכים עם 8 גיגה-בייט זיכרון ומעלה.

בהרצה מקומית בתוכנות מבוססות למה סי-פי-פי מומלץ להפעיל פלאש אטנשן, להגדיר טמפרטורה של 0.6 וטופ-פי של 0.95. אם אתם צריכים קוד שעובד במכה ראשונה בלי הפתעות, עדיף בהרבה לפנות לממשק חיצוני של מודל גדול ומבוסס, כי המודל הזה כרגע מתאים בעיקר לבדיקות ולניסויי קצה.

ollama run hf.co/jica98/qwen3.5-4B-super-coder:Q4_0

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

14 קבצים במאגר, 3.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• qwen3.5-4B-super-coder.Q4_0.gguf2.6 GB
• qwen3.5-4B-super-coder.BF16-mmproj.gguf675.6 MB
• adapter_model.safetensors85.0 MB
• tokenizer.json20.0 MB
• benchmark/lmstudio_q4_benchmark/benchmark_results.json41.1 KB
• benchmark/lmstudio_q4_benchmark/benchmark_report.md8.5 KB
• chat_template.jinja8.0 KB
• README.md7.8 KB
• tokenizer_config.json7.2 KB
• training_args.bin5.7 KB
• config.json3.4 KB
• .gitattributes1.7 KB
• processor_config.json1.3 KB
• adapter_config.json1.3 KB

הרישיון

היוצר לא דיווח על רישיון בעמוד המודל. מבחינה משפטית, היעדר רישיון משמעו שאין לכם הרשאה מפורשת להשתמש בו, להפיץ אותו או להטמיע אותו במוצר מסחרי, מה שחושף חברות לסיכון של הפרת זכויות יוצרים.

הרישיון המלא בעמוד המודל ↗