GPT
הוספת כלי
Q

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2

קוד פתוח

Jackrongapache-2.02026-03-16

  • safetensors
  • qwen3_5
  • unsloth
  • qwen
  • qwen3.5

גרסת פיין טיונינג של 9.7 מיליארד פרמטרים שנועדה לחשוב בצורה קצרה וחסכונית. המודל שואב דפוסי מחשבה מקלוד במטרה לקצץ טוקנים מיותרים בתהליכי היסק.

  • 9.7Bפרמטרים
  • 262,144טוקנים בהקשר
  • 18.0 GBמשקל הקבצים
  • 1,057הורדות בחודש

מה זה

המודל מבוסס על Qwen3.5-9B ועבר אימון עם Unsloth על כארבעה עשר אלף דוגמאות חשיבה כלליות בסגנון Claude 4.6 Opus. הרעיון המרכזי כאן אינו להאריך את שרשרת המחשבה, אלא לחתוך ניתוחי יתר וטוקנים מבוזבזים בשאלות פשוטות יחסית, תחום שבו מודלי היסק רבים נוטים להימרח.

למרות שהאימון התמקד במתמטיקה ובהיגיון ולא בקוד ישיר, המפתח בדק את התוצאות על HumanEval ועל HumanEval פלוס כדי לבחון יכולת הכללה. הנתונים מראים שההסקה המובנית של המודל חותכת מעל עשרים אחוז במספר התווים והטוקנים שנוצרים, תוך שמירה על רמת דיוק שמתעלה על מודל הבסיס במבחנים אלה.

מתאים ל

  • סוכנים אוטונומיים בלולאה

    הקיצוץ באורך שרשרת המחשבה מונע צווארי בקבוק וחוסך טוקנים במשימות פשוטות שחוזרות על עצמן.

  • פתרון בעיות היגיון ומתמטיקה

    הוא אומן ישירות על דפוסי פירוק שלבי חשיבה וניתוח בעיות מורכבות בסגנון קלוד.

  • חילוץ והבנת מסמכים בתמונות

    ארכיטקטורת המודל תומכת בקלט משולב של תמונה וטקסט לצד חלון הקשר ענק לניתוח מעמיק.

איפה זה נופל

יוצר המודל מציין במפורש שמדובר בגרסת בדיקה שנועדה למחקר אקדמי וללמידה. בגלל גודל המדגם המצומצם ששימש לאימון, היכולות הכלליות הרחבות שלו עלולות להיפגע ביחס לבסיס. בנוסף קיימת סכנת הזיות בעובדות מציאותיות, והוא אינו תומך רשמית בעברית אלא באנגלית, סינית וקוריאנית בלבד.

אותה משפחה

Qwen3.5-9B-Claude-4.6-Opus-Reasoning יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF25,822 Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled19,947 Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-GGUF18,938

שאלות
נפוצות

האם המודל יפעל טוב בעברית?

השפות שהוגדרו רשמית במודל הן אנגלית, סינית וקוריאנית בלבד. הוא עשוי להבין מעט עברית בזכות מודל הבסיס, אך לא מומלץ להסתמך עליו למשימות היגיון מורכבות בשפה זו ללא בדיקה מעמיקה.

למה להעדיף אותו על פני Qwen3.5-9B הרגיל?

אם אתם מריצים משימות שמייצרות המון מלל חשיבה מיותר, הגרסה הזו חוסכת מעל עשרים אחוז מהטוקנים בתהליך ההיסק. המבנה המזוקק מקצר את זמני הריצה ומעלה את הדיוק במשימות שנבדקו.

איך מריצים

המשקל הכולל של הקבצים עומד על 18 גיגה בייט בפורמט bfloat16. כדי להריץ אותו מקומית באופן חלק בלי כימות, תצטרכו כרטיס מסך עם לפחות 24 גיגה בייט זיכרון, במיוחד אם תרצו לנצל חלק מחלון ההקשר הגדול שמגיע עד 262,144 טוקנים.

אם אין לכם חומרה כזו זמינה ואתם מריצים רק שאילתות בודדות או ניסויים קצרים, שווה יותר להשתמש בשרת ענן שכור לפי שעה או בשירותי הרצה מנוהלים. להחזיק תשתית מקומית בשבילו משתלם בעיקר למי שבונה סוכנים אוטומטיים ומריץ לולאות רבות שבהן חיסכון בטוקנים מתורגם ישירות למהירות.

pip install -U huggingface_hub
hf download Jackrong/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2

הקבצים

12 קבצים במאגר, 18.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0, שמתיר שימוש מסחרי, שינוי קוד והפצה מחדש כמעט ללא הגבלה. עם זאת, היוצר מציין בכרטיס המודל שמדובר בגרסת בדיקה שמיועדת למחקר וללמידה בלבד, כך שיש סתירה מסוימת שצריך לקחת בחשבון אם מתכננים לשלב אותו במוצר.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗