Qwen3.5-0.8B-Claude-4.6-Opus-Reasoning-Distilled-GGUF

מה זה

מדובר בכיוונון עדין למודל הקטן של קוון, שעבר אימון על דאטה־סט מזוקק שמכיל 2,516 דוגמאות של מסלולי חשיבה מקלוד. המטרה כאן היא ללמד מודל זעיר לעצור, לתכנן צעדים בתוך תגיות ייעודיות, ורק אז לפלוט פלט סופי, במקום לירות תשובות מהירות או להיתקע בלולאות חשיבה אינסופיות שאופייניות למודלי בסיס.

האימון התמקד במבנה לוגי מוגדר מראש שבוחן אילוצי בעיה ומחלק אותה לחלקים. בניגוד לרוב המודלים בגודל הזה, שמיועדים בעיקר להשלמת טקסט בסיסית וכושלים בלוגיקה רב־שלבית, כאן יש ניסיון לחקות מודל ענק ברמת הפירוק הלוגי, גם אם הידע הכללי נשאר מוגבל לנפח המקורי.

מתאים ל

• פירוק בעיות קוד מקומי

  מייצר שלבי פתרון מובנים צעד אחר צעד על גבי חומרה חלשה בלי תלות ברשת.

• ניתוח לוגיקה במכשיר קצה

  רץ ישירות על מעבד מקומי לצורך הסקת מסקנות מתמטית על קלטים קצרים.

• הדגמת תהליכי הסקה

  מאפשר לבחון אימון על תגיות חשיבה בלי להשקיע במשאבי מחשוב כבדים.

איפה זה נופל

הכרטיס מצהיר בפירוש שמדובר בגרסת בדיקה למטרות מחקר והדגמה בלבד, ולא במודל לייצור. הסכנה העיקרית פה היא הזיות, מודל בגודל הזה מייצר לפעמים עובדות שגויות בתוך בלוק החשיבה שלו וממשיך לבסס עליהן את הפתרון. בנוסף, הוא אומן על אנגלית, סינית וקוריאנית, כך שעברית כלל אינה ברשימת השפות הנתמכות ולא כדאי להסתמך עליו בניתוח טקסט מקומי.

איך מריצים

המשקל הכולל של הקבצים עומד על 5.2 גיגה־בייט בפורמט מותאם לזיכרון קטן, מה שאומר שאפשר להריץ אותו ישירות על מעבד של מחשב נייד ישן או מעבד גרפי צנוע מאוד בלי שום מאמץ. אין צורך בשרת ייעודי או בכרטיסי מסך יקרים כדי לראות ביצועים שוטפים.

אם אתם צריכים רק פתרון מהיר של שאלות היגיון נקודתיות בלי לשלוח מידע החוצה, הרצה עצמית כזו סוגרת את הפינה בחינם. לעומת זאת, אם המשימה שלכם כוללת שליפת עובדות עדכניות, ידע רחב בעברית או עבודה עם מסמכים ארוכים באמת, עדיף לפנות ישירות לשרת מרוחק של מודל גדול בהרבה.

ollama run hf.co/Jackrong/Qwen3.5-0.8B-Claude-4.6-Opus-Reasoning-Distilled-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

14 קבצים במאגר, 5.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Qwen3.5-0.8B.Q8_0.gguf811.8 MB
• Qwen3.5-0.8B.Q6_K.gguf629.7 MB
• Qwen3.5-0.8B.Q5_K_M.gguf584.8 MB
• Qwen3.5-0.8B.Q5_K_S.gguf563.7 MB
• Qwen3.5-0.8B.Q4_K_M.gguf527.5 MB
• Qwen3.5-0.8B.Q4_K_S.gguf503.1 MB
• Qwen3.5-0.8B.Q3_K_L.gguf477.2 MB
• Qwen3.5-0.8B.Q3_K_M.gguf464.8 MB
• Qwen3.5-0.8B.Q3_K_S.gguf435.4 MB
• Qwen3.5-0.8B.Q2_K.gguf395.8 MB
• Qwen3.5-0.8B.BF16-mmproj.gguf207.3 MB
• README.md5.1 KB
• config.json3.2 KB
• .gitattributes2.2 KB

הרישיון

הפרויקט מופץ תחת רישיון אפאצ'י 2.0 המאפשר שימוש חופשי, שינוי והפצה, כולל שילוב במוצרים מסחריים בלי תשלום תמלוגים. התנאי העיקרי הוא שמירת הודעת זכויות היוצרים והרישיון המקורי. עם זאת, היוצר מציין בכרטיס שהגרסה נועדה למחקר בלבד, מה שיוצר סתירה בין הרישיון המשפטי לכוונת המפתח.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗