Qwen3-30B-A3B-Thinking-2507-FP8

מה זה

מדובר במודל MoE עם 128 מומחים שבוחר שמונה מתוכם בכל צעד, ומגיע מקוונטט מראש לפורמט FP8. השינוי המרכזי בגרסה הזו מתמקד בהרחבת תהליך המחשבה המובנה, כשהמערכת מייצרת שרשרת חשיבה אוטומטית לפני התשובה הסופית ואי אפשר לכבות את המצב הזה.

במבחני ביצועים בתחום התכנות והמתמטיקה הוא עוקף אפילו את גרסת ה־235B של אותה סדרה, עם 85.0 נקודות ב־AIME25 לעומת 81.5 של הגדול, וציון של 66.0 ב־LiveCodeBench. המשמעות היא שבמשימות אלגוריתמיות וקוד טהור הוא נותן מענה חזק במיוחד לגודל שלו, אף שבמבחני ידע כללי ומדעים מורכבים כמו GPQA המודלים הגדולים עדיין שומרים על יתרון ברור.

מתאים ל

• פתרון בעיות קוד קשות

  מתאים במיוחד למשימות דיבאגינג ואלגוריתמיקה מורכבת בזכות תוצאות גבוהות ב־LiveCodeBench ותהליך ניתוח מעמיק.

• הפעלת כלים וסוכנים

  מיועד למערכות אוטומציה מבוססות כלים וקריאות פונקציות, עם שילוב מומלץ בספריית Qwen-Agent.

• ניתוח מסמכים ארוכים

  תומך בחלון של עד 262,144 טוקנים, מה שמאפשר לעבד טקסטים רחבים בלי לקטוע את ההקשר.

איפה זה נופל

המודל פועל אך ורק במצב חשיבה ולא מסוגל לענות מיד בלי שלב הרהור, מה שמאט את תחילת התשובה ולא מתאים לזמני תגובה מיידיים. המפתחים ממליצים להקצות פלט של עשרות אלפי טוקנים למשימות כבדות, מה שעלול לייקר את הריצה ולגרום לחריגות זיכרון בהקשרים ארוכים. בנוסף, בשיחות מרובות שלבים צריך לנקות ידנית את שלבי החשיבה מההיסטוריה כדי למנוע ירידה בביצועים, והעלאת מדד ה־presence_penalty למניעת חזרות עלולה לגרום לערבוב שפות.

אותה משפחה

Qwen3-30B-A3B-Thinking-2507 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים עומד על 29.1 ג'יגה בייט ב־FP8, כך שכדי להריץ אותו מקומית נדרש כרטיס עם לפחות 32 או 48 ג'יגה בייט זיכרון גרפי, במיוחד אם רוצים לנצל הקשר ארוך. אפשר להעלות אותו עם vLLM מגרסה 0.8.5 או SGLang מגרסה 0.4.6.post1, כשצריך להגדיר מפענח חשיבה כמו deepseek-r1.

ההרצה המקומית הגיונית אם יש לכם חומרה מתאימה ואתם רוצים פרטיות מלאה או שליטה על השרת. אם אין לכם גישה למעבדים גרפיים ייעודיים עם נפח זיכרון מספק, קריאה ל־API חיצוני תחסוך את עלויות החומרה והתחזוקה.

from transformers import pipeline

pipe = pipeline("text-generation", model="Qwen/Qwen3-30B-A3B-Thinking-2507-FP8")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 29.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00004.safetensors10.0 GB
• model-00003-of-00004.safetensors10.0 GB
• model-00002-of-00004.safetensors10.0 GB
• model-00004-of-00004.safetensors1.2 GB
• tokenizer.json11.4 MB
• model.safetensors.index.json3.6 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• LICENSE11.3 KB
• README.md11.3 KB
• tokenizer_config.json10.8 KB
• config.json7.2 KB
• .gitattributes1.6 KB
• generation_config.json239 B

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0, שמאפשר שימוש מסחרי מלא, שינוי קוד והפצה חופשית של תוצרים. התנאי העיקרי הוא שמירה על הצהרת זכויות היוצרים והרישיון המקורי, כך שניתן לשלב אותו במוצרים פנימיים או מסחריים בלי לחשוף את הקוד שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗