DeepSeek-V4-Pro-Qwen3.5-9B-MTP-GGUF

מה זה

מדובר בכוונון עדין למודל Qwen3.5-9B, שנוצר באמצעות זיקוק של כ־250 אלף דוגמאות מתמטיקה ומדעים מהמודל DeepSeek-V4-Pro במצב Max Effect. תהליך האימון שילב אימון מונחה ולאחריו שלב חיזוק קל בשיטת GSPO, בלי לכלול נתוני קוד ייעודיים.

במבחני ביצועים הוא מציג יתרון עקבי על פני מודל הבסיס בתחומי המדעים המדויקים. במבחן GSM8K הוא הגיע לממוצע של 94.50% בארבע הרצות, ובמבחן MMLU-Pro במתמטיקה, פיזיקה וכימיה רשם ממוצע של 90.53%, שזה שיפור של קרוב לנקודה שלמה מול Qwen3.5-9B המקורי. המשמעות בפועל היא פחות שגיאות בשרשראות חישוב מורכבות, לצד יעילות גבוהה יותר שדורשת 36.1% פחות טוקנים של חשיבה לכל תשובה נכונה.

מתאים ל

• פתרון בעיות מתמטיקה

  מגיע לתוצאה של 92.40% בפרק המתמטיקה של MMLU-Pro ומספק פירוק שלבי מדויק.

• עוזר מחקר בפיזיקה וכימיה

  מציג דיוק של קרוב ל־90% בשאלות מדעיות ומייצר פחות טוקנים מיותרים בדרך לתשובה.

• הסקה לוגית במערכות מקומיות

  מאפשר הרצה מקומית על כרטיס מסך בודד תוך שמירה על רמת דיוק שמגרדת מודלים גדולים.

איפה זה נופל

החיסרון הבולט ביותר הוא היעדר מוחלט של נתוני קוד וסוכנים בתהליך האימון, עובדה שהמפתחים מציינים במפורש. למרות שיש שיפור קל בעבודה עם כלים בזכות יכולת ההסקה הכללית, לא מומלץ להסתמך עליו לכתיבת תוכנה או אוטומציות מורכבות. בנוסף, חבילת השפות הרשמית אינה כוללת עברית אלא אנגלית, סינית, קוריאנית, יפנית, ספרדית ורוסית, כך שביצועים בעברית דורשים בדיקה זהירה מראש.

איך מריצים

כדי להריץ את המודל הזה בסביבת ייצור מקומית עם llama.cpp בגרסת MTP-Q8_0 או דרך vLLM בתצורת NVFP4, תצטרכו כרטיס מסך מודרני עם לפחות 16GB עד 24GB של זיכרון וידאו, תלוי באורך ההקשר שתגדירו. סך כל הקבצים במאגר שוקל 79.5 ג'יגה־בייט ומחולק ל־15 קבצים שמכילים גרסאות שונות.

אם אתם צריכים רק מענה מזדמן לשאלות מדעיות ואין לכם שרת ייעודי פנוי, עדיף להשתמש ב־API חיצוני של מודלים גדולים יותר. ההרצה העצמית משתלמת כשיש דרישה לפרטיות מוחלטת של הנתונים או תעבורה רציפה שלא מצדיקה תשלום לפי טוקן.

ollama run hf.co/Jackrong/DeepSeek-V4-Pro-Qwen3.5-9B-MTP-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

15 קבצים במאגר, 79.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-BF16.gguf18.4 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q8_0.gguf9.8 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q6_K.gguf7.6 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q5_K_M.gguf6.6 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q5_K_S.gguf6.5 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q4_K_M.gguf5.8 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q4_K_S.gguf5.5 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-IQ4_XS.gguf5.4 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q3_K_L.gguf5.0 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q3_K_M.gguf4.7 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q3_K_S.gguf4.4 GB
• DeepSeek-V4-Pro-Qwen3.5-9B-MTP-Q2_K.gguf3.9 GB
• mmproj-F32.gguf1.8 GB
• README.md37.6 KB
• .gitattributes2.5 KB

הרישיון

המודל מופץ תחת רישיון apache-2.0, שמאפשר שימוש מסחרי חופשי לחלוטין, שינוי של המשקלים והפצה פנימית או חיצונית במוצרים שלכם. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, בלי דרישה לפתוח את הקוד של המוצר שבו תשלבו אותו.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗