Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-GGUF

מה זה

מדובר בכוונון של מודל הבסיס Qwen3.5-4B באמצעות למידה ממוקדת של שרשראות חשיבה מקלוד 4.6 אופוס ותוספת מודל 27B. המודל מתמקד בכתיבת תהליך חשיבה פנימי בתוך תגיות think לפני שהוא פולט תשובה, במקום להיכנס ללולאות מחשבה חוזרות ומיותרות שמאפיינות לעיתים מודלים קטנים.

במדדי ההערכה הרשמיים שנבדקו בקוונטיזציה של שמונה ביט, השינוי מציג שיפור נקודתי. במבחן GPQA Diamond המודל עלה מציון של 33.82 במודל הבסיס ל־38.88, ובמבחן ARC-Challenge עלה מ־64.59 ל־66.38. אלו לא תוצאות של מודלי ענק, אבל הן מראות יכולת ניתוח טובה יותר של שאלות מורכבות ביחס לגודל שלו.

מתאים ל

• פתרון בעיות מתמטיקה

  פירוק מובנה של שלבי חישוב בתגיות חשיבה סגורות לפני מתן הפתרון.

• ניתוח לוגי אופליין

  הרצה מקומית של שאלות היגיון ללא תשלום על טוקנים וללא תלות ברשת.

• חקירת תהליכי זיקוק

  בדיקה מעשית של השפעת נתוני חשיבה מקלוד על מודלים קטנים של 4B.

איפה זה נופל

הכרטיס מבהיר במפורש שהמודל מיועד ללמידה, מחקר וחקירה טכנולוגית בלבד, ולא למוצר סופי. בנוסף, יש סכנה ברורה להזיות בתוך שלבי החשיבה עצמם בכל הנוגע לעובדות מהעולם האמיתי. השפות המוגדרות במודל הן אנגלית, סינית וקוריאנית בלבד, כך שעברית לא נתמכת כאן באופן רשמי ולא כדאי לבנות עליה. המודל אומן עם חלון הקשר של 16,384 טוקנים בתהליך הכוונון, למרות נתוני ארכיטקטורת הבסיס.

אותה משפחה

Qwen3.5-4B-Claude-4.6-Opus-Reasoning יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המודל מגיע בפורמט GGUF, מה שאומר שאפשר לטעון אותו ישירות בכלים מקומיים כמו llama.cpp על מעבד רגיל או מאיץ גרפי ביתי. קובצי המשקל במאגר שוקלים יחד 26.5 ג'יגה־בייט ומחולקים לכמה קבצים, כך שצריך לבחור את רמת הקוונטיזציה המתאימה לנפח הזיכרון שיש לכם בכרטיס או במחשב.

אם אתם צריכים רק שאילתות בודדות או דיוק עובדתי מוחלט, עדיף פשוט לפנות ישירות ל־API של מודל מסחרי גדול. הרצה מקומית של המודל הזה מתאימה כשאתם מריצים המון ניתוחים אופליין ולא רוצים לשלם על כל טוקן שרץ בתהליך החשיבה.

ollama run hf.co/Jackrong/Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

14 קבצים במאגר, 26.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Qwen3.5-4B.Q8_0.gguf4.5 GB
• Qwen3.5-4B.Q6_K.gguf3.5 GB
• Qwen3.5-4B.Q5_K_M.gguf3.1 GB
• Qwen3.5-4B.Q5_K_S.gguf3.0 GB
• Qwen3.5-4B.Q4_K_M.gguf2.7 GB
• Qwen3.5-4B.Q4_K_S.gguf2.6 GB
• Qwen3.5-4B.Q3_K_L.gguf2.4 GB
• Qwen3.5-4B.Q3_K_M.gguf2.3 GB
• Qwen3.5-4B.Q3_K_S.gguf2.1 GB
• Qwen3.5-4B.Q2_K.gguf1.8 GB
• mmproj-BF16.gguf675.6 MB
• README.md8.4 KB
• config.json3.5 KB
• .gitattributes2.2 KB

הרישיון

הרישיון המדווח הוא apache-2.0, רישיון קוד פתוח מתירני שמאפשר שימוש חופשי, שינוי קוד והפצה. עם זאת, היוצר מציין בכרטיס שהגרסה מיועדת למחקר והדגמה בלבד, כך שקיים פער בין הרישיון היבש להגדרת השימוש המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗