GPT
הוספת כלי
Q

Qwopus3.5-27B-v3

קוד פתוח

Jackrongapache-2.02026-04-01

  • safetensors
  • qwen3_5
  • unsloth
  • qwen
  • qwen3.5

התאמה אישית של Qwen3.5 לגודל 27B שנועדה לחתוך מלל מיותר בתהליכי חשיבה ולשפר כתיבת קוד. היא מתאימה למי שמחפש ריצות מקומיות של מודל מוסק בלי לשלם על עודף טוקנים.

  • 27Bפרמטרים
  • 262,144טוקנים בהקשר
  • 51.0 GBמשקל הקבצים
  • 455הורדות בחודש

מה זה

זהו כוונון עדין על בסיס Qwen3.5 שנעשה באמצעות Unsloth ומשלב שיטות SFT ו־LoRA. המטרה כאן היא לפתור בעיה מוכרת שבה מודלים חושבים יותר מדי על שאלות פשוטות. במקום שרשראות חשיבה ארוכות שמחקות פלט מוכן, הכותב בנה רצפי הסקה מובנים שנועדו להגיע לפתרון בפחות טוקנים.

במדד HumanEval ל־164 משימות תכנות, הוא מגיע לתוצאה של 95.73 אחוז במעבר מוחלט, לעומת 94.51 אחוז של מודל הבסיס. במבחן MMLU-Pro הוא שומר על יתרון קל מול מודל המקור, תוך קיצור תהליך ההסקה. בנוסף שולב אימון למידת חיזוק לקריאות כלים עבור סוכנים אוטונומיים, במטרה לתקן שגיאות אחרי ביצוע במקום להיתקע בתכנון מקדים.

מתאים ל

  • ייצור קוד בסביבות פיתוח

    הוא מציג דיוק של 95.73 אחוז ב־HumanEval ומייצר פתרונות ישירים יותר עם פחות בזבוז של טוקנים בתהליך המחשבה.

  • סוכנים מבוססי כלים

    הוא עבר אימון ייעודי לקריאת פונקציות בגישת תיקון אחרי ביצוע שמתאימה למערכות אוטונומיות רציפות.

  • ניתוח לוגי שקוף

    מבנה ההסקה מציג שלבי מחשבה מפורטים שמאפשרים לבדוק את שיקולי המודל לאורך פתרון הבעיה.

איפה זה נופל

זהו פרויקט עצמאי של מפתח יחיד שמומן מכיסו הפרטי. היוצר מצהיר בגלוי שאין לו תשתית של מעבדת מחקר גדולה, ולכן שרשרת החשיבה עלולה לסבול לעיתים מחוסר יציבות, לולאות לוגיות וסחף בהסקה. בנוסף קיימת סכנת הזיות בעובדות חיצוניות, והפלט הגולמי כולל לעיתים רעשי עיטוף, בעיות עיצוב והפרדה לקויה בין קוד לתשובה. השפות הנתמכות הן אנגלית, סינית וקוריאנית, כך שעברית כלל לא נבדקה ולא מוגדרת רשמית.

אותה משפחה

Qwopus3.5 יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwopus3.5-9B-v3-GGUF5,584 Qwopus3.5-4B-v3-GGUF1,714 Qwopus3.5-27B-v3.5-GGUF587 Qwopus3.5-27B-v3-GGUF502 Qwopus3.5-9B-v3376

שאלות
נפוצות

האם המודל מתאים למוצר ייצור יציב?

לא מומלץ להסתמך עליו כמערכת קריטית. המפתח עצמו מדגיש שמדובר בגרסה ניסיונית למחקר שנוצרה ללא משאבים של מעבדה תעשייתית, ויש בה רעשי עיצוב וחוסר יציבות לעיתים.

האם הוא יודע לעבוד בעברית?

השפות שצוינו במפורש הן אנגלית, סינית וקוריאנית. מודל הבסיס כולל יכולות מסוימות בשפות נוספות, אך הגרסה הזו לא עברה אימון או הערכה ייעודית בעברית.

מה היתרון שלו מול מודל הבסיס המקורי?

הוא מגיע להישגים מעט גבוהים יותר במדדי תכנות ובמבחן MMLU-Pro. בנוסף הוא עושה זאת בעזרת תהליך חשיבה מובנה וחסכוני יותר שדורש פחות טוקנים.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־51 גיגה בייט בדיוק של bfloat16 על פני עשרים קבצים. כדי להריץ משקל כזה באופן מלא בלי קוונטיזציה נדרש זיכרון וידאו משמעותי של עשרות גיגה בייט בכרטיסים גרפיים ייעודיים. חלון ההקשר עומד על 262,144 טוקנים, כך שניצול מלא שלו ידרוש משאבי זיכרון כבדים בהרבה מעבר למשקל הבסיס.

אם אין לכם שרת ייעודי או סביבת ענן מתאימה, ההרצה המקומית תהיה איטית או שתדרוש מכם לכווץ את המודל עצמאית. למי שאין לו תשתית כזאת וצריך רק בדיקות מהירות, עדיף להשתמש במודל דרך שירותי ענן או ממשקי API חיצוניים.

pip install -U huggingface_hub
hf download Jackrong/Qwopus3.5-27B-v3

הקבצים

20 קבצים במאגר, 51.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא apache-2.0. מותר להשתמש בו לצרכים מסחריים ופרטיים, לשנות את הקוד ולהפיץ אותו הלאה, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקוריים. עם זאת, היוצר מציין בכרטיס שמדובר בגרסת בדיקה למטרות לימוד, מחקר אקדמי והדגמה, נקודה שראוי לשקול לפני שילוב שלו במערכות ייצור.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗