unsloth/Ministral-3-14B-Reasoning-2512-GGUF

קוד פתוח

unslothapache-2.02025-12-02

vllm
gguf
mistral-common
mistral
unsloth

שילוב נדיר של יכולות חשיבה מעמיקה עם ראייה ממוחשבת בחבילה של 14 מיליארד פרמטרים. מתאים למי שחייב לוגיקה חזקה והבנת תמונות על חומרה מקומית סבירה.

212 GBמשקל הקבצים
6,912הורדות בחודש
50לייקים

מה זה

מדובר במודל שמשלב מנוע שפה של 13.5 מיליארד פרמטרים יחד עם מעבד תמונה של 0.4 מיליארד פרמטרים, שעבר אימון ייעודי למשימות היסק, קוד ומתמטיקה. החיבור הזה מאפשר לו לנתח תרשימים ובעיות ויזואליות מורכבות תוך הפעלת שרשרת חשיבה מלאה, לצד תמיכה מובנית בחלון הקשר ענקי של עד 256 אלף טוקנים.

במבחני ביצועים של היסק מתמטי כמו AIME25 הוא מגיע לציון 0.850 לעומת 0.737 של Qwen3 המקביל, ובמבחן התכנות LiveCodeBench הוא עומד על 0.646. המשמעות בפועל היא פחות טעויות לוגיות בחישובים רב שלביים, ויכולת טובה משמעותית בכתיבת קוד ביחס למודלים אחרים במשקל הזה, יחד עם תמיכה בהפעלת כלים ופלט במבנה JSON.

מתאים ל

פתרון בעיות טכניות מקוד ותמונה
ניתוח תצלומי מסך של שגיאות מערכת או דיאגרמות הנדסיות תוך הפעלת היסק שלבי לכתיבת תיקון תוכנה.
סוכנים אוטונומיים עם כלים
הפעלת פונקציות ופליטת JSON מדויקת עבור משימות אוטומציה מורכבות בסביבה מקומית ומאובטחת.
עוזר מתמטיקה ומדעים מקומי
אימון ייעודי למתמטיקה ולוגיקה שמאפשר עיבוד נתונים רגישים בלי להוציא מידע מחוץ לשרתי הארגון.

איפה זה נופל

למרות ההצהרה על תמיכה בשפות שונות, עברית לא נכללת ברשימת השפות העיקריות שנבדקו. צריך לבדוק היטב את איכות הפלט בעברית לפני שבונים עליו. בנוסף, חלון ההקשר של 256 אלף טוקנים הוא בעיקר תיאורטי למי שמריץ מקומית, כי צריכת הזיכרון מתנפחת במהירות ומחייבת הגבלה של אורך הטוקנים בהגדרות ההרצה.

שאלות
נפוצות

האם אפשר להריץ אותו על מחשב אישי רגיל?

כן, אבל רק אם יש לכם כרטיס מסך מתאים. גרסאות מכווצות של המודל נכנסות בכרטיס עם 24 גיגה זיכרון, אך מחשבים ללא מעבד גרפי חזק יתקשו לייצר קצב טוקנים שימושי.

איך המודל מתמודד עם טקסט בעברית?

רשימת השפות הרשמית כוללת אנגלית, שפות אירופיות, ערבית ומזרח אסיה, אך עברית אינה מוזכרת. הוא צפוי להבין עברית בסיסית אך עלול לייצר שגיאות תחביר וקצב פעולה אטי יותר בשפה זו.

איך מריצים

כדי להריץ את הגרסאות המכווצות שהוכנו כאן תצטרכו כרטיס מסך עם לפחות 24 גיגה זיכרון, כמו למשל RTX 3090 או RTX 4090 בודד, שם הוא נכנס בנוחות בקוונטיזציה. אם תרצו להריץ אותו בדיוק מלא של BF16 תזדקקו ל־32 גיגה זיכרון גרפי, ואם תכוונו לנצל את מלוא חלון ההקשר של 256 אלף טוקנים, ההמלצה הרשמית קופצת לשני כרטיסי H200.

ההרצה נעשית באמצעות vLLM עם פרסרים ייעודיים לכלים ולחשיבה של mistral. אם המטרה שלכם היא רק בדיקות מזדמנות או שהפרויקט דורש חלון הקשר מקסימלי בלי השקעה באשכול שרתים יקר, עדיף להשתמש ב־API מרוחק במקום להחזיק תשתית כבדה.

ollama run hf.co/unsloth/Ministral-3-14B-Reasoning-2512-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

32 קבצים במאגר, 212 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

רישיון apache-2.0 מתיר שימוש חופשי לחלוטין, כולל שימוש מסחרי, שינוי קוד והפצה פנימית או מסחרית של המוצר. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים המקורית והצהרה על שינויים שבוצעו, ללא דרישה לחשוף את הקוד שלכם.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗