Qwen3-4B-Thinking-2507

מה זה

מדובר בעדכון ממוקד למודל הנימוק של Qwen, שתוכנן מראש לחשוב בצורה עמוקה וארוכה לפני שהוא עונה. הייחוד העיקרי שלו הוא יכולת הסקה לוגית שמנצחת מודלים גדולים ממנו בהרבה, יחד עם חלון הקשר טבעי של 262,144 טוקנים. במבחן המתמטיקה התחרותית AIME25 הוא מגיע לציון של 81.3, ובמבחן GPQA לתואר שני הוא מגיע ל־65.8, תוצאות שמשתוות ואף עוקפות את גרסת ה־30B המקבילה.

בנוסף לחשיבה מתמטית וקוד, המודל מיועד להפעלת סוכנים וקריאה לכלים חיצוניים, תחום שבו הוא מציג זינוק של עשרות אחוזים לעומת הגרסה הקודמת שלו. הנתונים מראים קפיצה ברורה גם במבחני מעקב אחרי הוראות מורכבות כמו IFEval, מה שהופך מודל במשקל 7.5 גיגה־בייט לכלי פיתוח מעשי ביותר.

מתאים ל

• פתרון בעיות מתמטיות

  משיג ציון של 81.3 במבחן AIME25 בזכות שרשראות חשיבה מעמיקות במיוחד.

• סוכן לקריאת כלים אוטונומית

  מיועד להשתלב מול מערכות הפעלה וכלים חיצוניים לפי מבחני סוכנים כמו BFCL ו־TAU.

• ניתוח מסמכים טכניים ארוכים

  מציע חלון של 262,144 טוקנים לטעינת בסיסי קוד או מפרטים שלמים במכה.

איפה זה נופל

החיסרון הבולט ביותר הוא חוסר הגמישות במצב העבודה. הוא תומך אך ורק במצב חשיבה, תבנית השיחה כופה עליו בלוק מחשבה באופן קבוע, ואי אפשר לבטל את זה כדי לקבל תשובה מהירה וזולה. בנוסף, הוא נוטה למשוך פלטים ארוכים מאוד שדורשים הקצאת עשרות אלפי טוקנים, מה שמאט את זמן התגובה. אם מנסים להשתמש בו בשיחה מתמשכת, חובה לנקות את בלוקי החשיבה מההיסטוריה כדי לא לפגוע באיכות התשובות, והעלאת מקדם הענישה על חזרתיות עלולה לגרום לו לערבב שפות.

אותה משפחה

Qwen3-4B-Thinking-2507 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המודל שוקל 7.5 גיגה־בייט בדיוק bfloat16, כך שכרטיס מסך בודד עם 16 או 24 גיגה־בייט זיכרון יספיק להרצה בסיסית. הבעיה האמיתית מתחילה כשרותמים את מלוא חלון ההקשר, שמגיע ל־256K, לצד פלטים מומלצים של עשרות אלפי טוקנים. במצב כזה תצטרכו להקצות זיכרון משמעותי עבור מטמון ה־KV, או להגביל את ההקשר בעזרת הפרמטרים בשרתי הסקה.

בפועל אפשר להרים אותו מקומית עם כלים מוכרים כמו Ollama, LMStudio, llama.cpp, או להרים שרת ייעודי בעזרת vLLM או SGLang. אם חסרה לכם חומרת שרת מתאימה ומחפשים קריאות עם הקשר מלא של מעל 131 אלף טוקנים בלי לקבל שגיאות זיכרון, עדיף להשתמש בנקודת קצה מנוהלת.

from transformers import pipeline

pipe = pipeline("text-generation", model="Qwen/Qwen3-4B-Thinking-2507")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 7.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors4.0 GB
• model-00001-of-00003.safetensors4.0 GB
• model-00003-of-00003.safetensors99.6 MB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json32.8 KB
• LICENSE11.3 KB
• tokenizer_config.json10.8 KB
• README.md10.1 KB
• .gitattributes1.6 KB
• config.json727 B
• generation_config.json239 B

הרישיון

המודל משוחרר ברישיון apache-2.0. זהו רישיון קוד פתוח מתירני לחלוטין שמאפשר שימוש מסחרי, שינוי הקוד והמשקלים, הפצה ושילוב במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗