DeepSeek-V4-Pro-Qwen3.5-4B-MTP-GGUF

מה זה

המודל מבוסס על Qwen3.5-4B שעבר אימון זיקוק באמצעות Unsloth על כ־250,000 דוגמאות מדעיות ומתמטיות ממודל המקור DeepSeek-V4-Pro במצב Max Effect. המטרה כאן היא להביא פירוק בעיות רב-שלבי ואימות פתרונות לגודל משקל שרץ בקלות על מחשבים אישיים.

במבחני GSM8K הוא השיג דיוק של 91.77% בהרצת llama.cpp, תוצאה חזקה שמציבה אותו קרוב למודלים גדולים בהרבה בחישובים בסיסיים. עם זאת, בבדיקות STEM מעמיקות יותר של MMLU-Pro הוא הגיע לממוצע של 76.47%, כאשר המתמטיקה מובילה עם 80.4% ואילו הפיזיקה והכימיה נשארות באזור ה־74%. זה מראה שבבעיות מורכבות הפער מגרסת ה־9B, שעומדת על מעל 90%, מורגש היטב.

מתאים ל

• פתרון בעיות מתמטיות מקומי

  משיג מעל 91% ב־GSM8K ויכול לפרק חישובים רב-שלביים על מחשב נייד בלי חיבור לרשת.

• תרגול תלמידים ב־STEM

  מציג שלבי פתרון מפורטים במתמטיקה, כימיה ופיזיקה על בסיס זיקוק ממודל מתקדם.

• בדיקת הסקות על מכשירי קצה

  גודל של 4B מאפשר להטמיע יכולות חשיבה אנליטית במערכות משובצות או מכשירים מוגבלי זיכרון.

איפה זה נופל

הכרטיס מבהיר במפורש שהאימון לא כלל שום דאטה של כתיבת קוד או הפעלת כלים. היכולות האלו לא נבדקו כלל, והמודל אינו מתאים לשמש כעוזר פיתוח או סוכן אוטונומי. בנוסף, המודל תומך באנגלית וסינית בלבד, כך שאין לצפות לביצועים סבירים בעברית. נפילה נוספת נראית במעבר ממתמטיקה פשוטה למדעים מורכבים, שם חוסר בפרמטרים מביא לטעויות במענה לשאלות ברמה אקדמית.

איך מריצים

המודל זמין כקבצי GGUF עם תמיכה ב־MTP, ומיועד להרצה ישירה דרך llama.cpp. מודל בסיס בגודל 4B דורש מעט מאוד זיכרון ויכול לרוץ בנוחות על כרטיסי מסך ביתיים פשוטים או זיכרון RAM רגיל במעבדים מודרניים. המאגר כולל 15 קבצים בנפח כולל של 38.5 ג'יגה-בייט, כך שצריך לבחור ולהוריד רק את קובץ ה־GGUF הספציפי שמתאים לרמת הקוונטיזציה שלכם ולא את כל התיקייה.

אם כל מה שאתם צריכים זה פתרון שאלות מדעיות מדי פעם בלי מגבלת פרטיות, פנייה פשוטה ל־API של מודל ענן גדול תיתן תוצאות מדויקות בהרבה. הריצה המקומית מתאימה רק כשחייבים עצמאות מלאה מהרשת או עיבוד מקומי זול.

ollama run hf.co/Jackrong/DeepSeek-V4-Pro-Qwen3.5-4B-MTP-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

15 קבצים במאגר, 38.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-BF16.gguf8.7 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q8_0.gguf4.6 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q6_K.gguf3.6 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q5_K_M.gguf3.2 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q5_K_S.gguf3.1 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q4_K_M.gguf2.8 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q4_K_S.gguf2.6 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-IQ4_XS.gguf2.6 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q3_K_L.gguf2.5 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q3_K_M.gguf2.3 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q3_K_S.gguf2.1 GB
• DeepSeek-V4-Pro-Qwen3.5-4B-MTP-Q2_K.gguf2.0 GB
• mmproj-F32.gguf1.3 GB
• README.md29.6 KB
• .gitattributes2.5 KB

הרישיון

הרישיון המדווח הוא Apache 2.0. הרישיון מאפשר שימוש חופשי לחלוטין, כולל שינוי הקוד, שילוב במוצרים מסחריים והפצה מחדש, תחת שמירה על תנאי הרישיון ומתן קרדיט ליוצרים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗