GPT
הוספת כלי
Q

Qwen3.5-122B-A10B

קוד פתוח

Qwenapache-2.02026-02-24

  • transformers
  • safetensors
  • qwen3_5_moe
  • image-text-to-text
  • conversational

יש כאן גם סקירה על Qwen עצמו.

מודל מולטימודלי של 122 מיליארד פרמטרים שמפעיל רק 10 מיליארד בכל טוקן. הוא נותן ביצועים של מודל ענק עם זמני תגובה של מודל קטן.

  • 125Bפרמטרים
  • 262,144טוקנים בהקשר
  • 233 GBמשקל הקבצים
  • 667,848הורדות בחודש

מה זה

מדובר במודל שמשלב ראייה וטקסט ומבוסס על תערובת מומחים של 256 מומחים, שמתוכם 8 מנותבים ואחד משותף פעילים בכל רגע נתון. השילוב בין מנגנון Gated DeltaNet לבין שכבות תשומת לב מאפשר לו לעבד טקסטים ארוכים וקלט ויזואלי ביעילות חישובית גבוהה.

במבחני הביצועים הוא מציג מספרים מרשימים במיוחד במשימות סוכנים ותכנות. בבדיקת BFCL-V4 הוא קיבל 72.2 לעומת 55.5 של GPT-5-mini, ובמבחן TAU2-Bench הגיע ל־79.5. זה מראה שהיכולת שלו להפעיל כלים, לקרוא לפונקציות ולתכנן תהליכים מורכבים עומדת ברמה של מודלים סגורים מובילים.

בידע כללי ובהיגיון מדעי הוא משיג 86.7 ב־MMLU-Pro ו־86.6 ב־GPQA Diamond. המבחנים האלה מעידים שהוא מחזיק עומק אנליטי חזק, ולא רק שולף עובדות פשוטות או מנחש תבניות טקסט.

מתאים ל

  • סוכני אוטומציה וכלים

    הוא מצטיין בהפעלת פונקציות וקריאות מערכת, עם ציון 72.2 במבחן BFCL-V4 שמתאים לתהליכים אוטונומיים.

  • ניתוח מסמכים ותמונות

    הארכיטקטורה מאחדת ראייה וטקסט מהיסוד, ומאפשרת פענוח תרשימים, דוחות וקלט ויזואלי בחלון הקשר עצום.

  • פיתוח מערכות פול סטאק

    עם תוצאה של 62.6 ב־FullStackBench, הוא מתאים לבניית רכיבי תוכנה שמחברים בין צד לקוח לצד שרת.

איפה זה נופל

למרות ההצלחה ברוב המבחנים, במשימות תכנות תחרותי טהור הוא מציג חולשה יחסית. במבחן CodeForces הוא קיבל ציון 2100, שזה נמוך יותר מגרסת ה־27B של אותה משפחה שהגיעה ל־1899 אמנם, אך מודלים אחרים עקפו אותו, ובמבחן LiveCodeBench הוא קיבל 78.9 לעומת 82.7 של GPT-OSS-120B. בנוסף, משימות מורכבות כמו VITA-Bench הניבו 33.6 בלבד, ומבחן HLE עם שרשרת מחשבה עומד על 25.3. במשימות קידוד עמוקות שדורשות דיוק אלגוריתמי קיצוני כדאי לבדוק אותו היטב לפני שסומכים עליו.

אותה משפחה

Qwen3.5 יצא ב־20 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.

Qwen3.5-9B11,389,211 Qwen3.5-4B7,264,578 Qwen3.5-2B3,115,741 Qwen3.5-0.8B2,412,896 Qwen3.5-27B2,296,792 Qwen3.5-35B-A3B2,290,236 Qwen3.5-122B-A10B-FP81,612,865 Qwen3.5-35B-A3B-FP81,469,426

שאלות
נפוצות

כמה זיכרון וידאו צריך כדי להריץ אותו?

המשקלים לבדם תופסים 233 גיגה בייט לפני חישובי הקשר. תצטרכו שרת עם 4 כרטיסי 80 גיגה בייט לפחות רק כדי להעלות אותו בזיכרון, ועוד משאבים בשביל חלון הקשר מלא.

האם המודל תומך בעברית?

הוא אומן על 201 שפות ודיאלקטים ברחבי העולם. הוא יבין ויפיק עברית, אבל כדאי לבדוק את התנהגותו בטרמינולוגיה מקצועית ספציפית לפני פריסה לייצור.

איך מריצים

המשקלים שוקלים 233 גיגה בייט ומחולקים ל־52 קבצים. כדי לטעון אותו בפורמט המקורי צריך שרת עם לפחות 4 או 8 כרטיסי מסך דוגמת A100 או H100 בנפח של 80 גיגה בייט כל אחד, כתלות בניהול הזיכרון ובחלון ההקשר. המודל נתמך בספריות כמו vLLM, SGLang, KTransformers ו־Transformers הרגילה.

אם אין לכם תשתית ענן ייעודית או חומרה מקומית כבדה, אין שום היגיון לנסות להריץ אותו לבד. עדיף בהרבה לפנות לנקודת קצה של ספק שירות מנוהל ולשלם לפי טוקנים, אלא אם פרטיות הנתונים מחייבת ריצה בסביבה מבודדת.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="Qwen/Qwen3.5-122B-A10B")
print(pipe("שלום"))

הקבצים

52 קבצים במאגר, 233 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון Apache 2.0. הרישיון מאפשר שימוש מסחרי חופשי, שינוי של המשקלים, הפצה ושילוב בתוך מוצרים פרטיים בלי תשלום תמלוגים. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים וכתב הוויתור המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗