Qwen3.8-2.4T-A95B-FP8

מה זה

מדובר במודל שפה ענק עם 2.4 טריליון פרמטרים בסך הכל, שבנוי כארכיטקטורת תערובת מומחים עם 512 מומחים, שמתוכם עובדים בפועל 11 מומחים בלבד בכל טוקן. המבנה משלב שכבות Gated DeltaNet יחד עם Gated Attention ואימון לחיזוי מרובה טוקנים. המשקלים מגיעים בכיול FP8 עם בלוקים בגודל 128 כדי לצמצם את אובדן הדיוק לעומת המקור.

המטרה המרכזית שלו היא משימות סוכנים, כתיבת קוד ופתרון בעיות מתמשכות בסביבות מורכבות. במבחני סוכני פיתוח כמו SWE-bench Pro הוא משיג 67.7 נקודות לעומת 60.6 של הדור הקודם, ובמבחן PaperBench מגיע ל־93 נקודות, שזה שיפור ניכר על פני גרסאות קודמות. ברוב המבחנים הכלליים הוא עדיין לא עוקף מודלים סגורים מובילים כמו Fable 5, אבל הוא עקבי בהרבה מהדור הקודם של אותה סדרה.

מתאים ל

• סוכני פיתוח אוטונומיים

  משיג 86.6 ב־Terminal Bench ומתמודד טוב עם משוב שגיאות מתמשך בטרמינל.

• מחקר ועיבוד טקסט ארוך

  חלון הקשר מקורי של 262 אלף טוקנים עם תוצאה של 93 ב־PaperBench.

• אוטומציה של כלי עבודה

  מציג 72.5 ב־Toolathlon ומאפשר שליטה בעומק החשיבה בזמן ריצה.

איפה זה נופל

המודל הזה כבד בצורה קיצונית להרצה עצמית, והגרסה הזו מגיעה ללא קלט תמונה וללא תמיכה במצב עבודה ללא חשיבה, תכונות ששמורות לשירות ה־API בשם Qwen3.8-Max. בנוסף, במבחני תכנות עמוקים כמו DeepSWE 1.1 הוא מקבל 56.6 לעומת מעל 70 במודלים מסחריים מתחרים, ובמבחני סוכנים קשים במיוחד כמו Agents Last Exam הוא עומד על 27 בלבד.

אותה משפחה

Qwen3.8-2.4T יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקלים שוקלים 2.3 טרה בייט בפורמט FP8 שמחולק ל־224 קבצים. אי אפשר להריץ דבר כזה על שרת בודד או מחשב מקומי רגיל. אתם חייבים אשכול מרובה כרטיסים בעלי זיכרון VRAM מצטבר של מעל 2.5 טרה בייט, ותמיכה בספריות כמו vLLM, SGLang או TokenSpeed שמבינות את המבנה הייחודי שלו.

אם אין לכם חוות שרתים ייעודית עם תמיכה ישירה בחישובי FP8 ורוחב פס מהיר מאוד בין השרתים, אין טעם להוריד את המשקלים. במצב כזה עדיף לפנות ישירות לשירות ה־API בענן של Qwen.

from transformers import pipeline

pipe = pipeline("text-generation", model="Qwen/Qwen3.8-2.4T-A95B-FP8")
print(pipe("שלום"))

הקבצים

224 קבצים במאגר, 2.3 TB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00005-of-00213.safetensors17.2 GB
• model-00027-of-00213.safetensors17.2 GB
• model-00029-of-00213.safetensors17.2 GB
• model-00031-of-00213.safetensors17.2 GB
• model-00033-of-00213.safetensors17.2 GB
• model-00035-of-00213.safetensors17.2 GB
• model-00038-of-00213.safetensors17.2 GB
• model-00040-of-00213.safetensors17.2 GB
• model-00042-of-00213.safetensors17.2 GB
• model-00044-of-00213.safetensors17.2 GB
• model-00047-of-00213.safetensors17.2 GB
• model-00049-of-00213.safetensors17.2 GB
• model-00052-of-00213.safetensors17.2 GB
• model-00054-of-00213.safetensors17.2 GB
• model-00056-of-00213.safetensors17.2 GB
• model-00058-of-00213.safetensors17.2 GB
• model-00061-of-00213.safetensors17.2 GB
• model-00063-of-00213.safetensors17.2 GB
• model-00065-of-00213.safetensors17.2 GB
• model-00067-of-00213.safetensors17.2 GB
• model-00070-of-00213.safetensors17.2 GB
• model-00072-of-00213.safetensors17.2 GB
• model-00074-of-00213.safetensors17.2 GB
• model-00076-of-00213.safetensors17.2 GB
• model-00079-of-00213.safetensors17.2 GB
• model-00081-of-00213.safetensors17.2 GB
• model-00083-of-00213.safetensors17.2 GB
• model-00085-of-00213.safetensors17.2 GB
• model-00088-of-00213.safetensors17.2 GB
• model-00090-of-00213.safetensors17.2 GB
• model-00092-of-00213.safetensors17.2 GB
• model-00094-of-00213.safetensors17.2 GB
• model-00097-of-00213.safetensors17.2 GB
• model-00099-of-00213.safetensors17.2 GB
• model-00101-of-00213.safetensors17.2 GB
• model-00103-of-00213.safetensors17.2 GB
• model-00106-of-00213.safetensors17.2 GB
• model-00108-of-00213.safetensors17.2 GB
• model-00110-of-00213.safetensors17.2 GB
• model-00112-of-00213.safetensors17.2 GB

הרישיון

הרישיון מוגדר כ־other ולכן הוא אינו רישיון פתוח סטנדרטי מוכר כמו MIT או Apache. אסור להניח שמותר להשתמש בו במוצר מסחרי בלי לקרוא את קובץ הרישיון המצורף לחבילה.

הרישיון המלא בעמוד המודל ↗