Ministral-3-3B-Base-2512

מה זה

מדובר במודל משולב של 4.3 מיליארד פרמטרים, שמחולק למודל שפה של 3.4 מיליארד פרמטרים ומקודד תמונה של 0.4 מיליארד. הוא מגיע בגרסת בסיס גולמית, כלומר הוא מאומן רק על המשך טקסט ולא עבר התאמה לשיחה או מילוי הוראות. היתרון המשמעותי שלו לעומת מודלים קטנים אחרים הוא שילוב ישיר של קלט תמונה לצד חלון הקשר של 256 אלף טוקנים.

במבחני הבסיס של חשיבה מתמטית עם שתי דוגמאות הוא מוביל על מתחרים ישירים כמו Qwen 3 4B ו־Gemma 3 4B עם ציון של 0.601 לעומת 0.405 ו־0.294 בהתאמה. במבחני ידע כללי ושפות כמו MMLU הוא עומד ראש בראש עם Qwen בלי פער מורגש. זה אומר שיש כאן נקודת פתיחה חזקה מאוד להמשך אימון, אבל לא מוצר שמוכן לעבודה עם משתמשי קצה ישר מהקופסה.

מתאים ל

• אימון ייעודי למשימות ספציפיות

  מודל בסיס קומפקטי וזול לאימון שמהווה נקודת זינוק נקייה למי שרוצה לבנות מודל מותאם אישית.

• חילוץ מידע ממסמכים ותמונות

  מקודד התמונה המובנה מאפשר לנתח קבצים גרפיים מקומית על חומרה של 16 גיגה זיכרון בלבד.

• סיווג טקסט על חומרה מקומית

  גודל קטן שמאפשר להריץ מיון והשלמת נתונים ישירות על ציוד קצה וללא תלות בחיבור לרשת.

איפה זה נופל

זה מודל בסיס נטו. הוא לא יענה לפקודות, לא ינהל שיחה, ונוטה לפלוט המשכי משפטים אקראיים אם לא מאמנים אותו על נתונים מתאימים מראש. מי שמחפש תחליף מהיר לבוט יקבל תוצאות מאכזבות.

בנוסף, עברית כלל לא מופיעה ברשימת השפות הנתמכות שפורסמו בכרטיס המודל. אם התוכנית שלכם כוללת עיבוד טקסט בעברית, חובה לבדוק היטב את איכות הטוקניזציה והפלט לפני שמבזבזים זמן ומשאבים על אימון ייעודי.

איך מריצים

כדי להריץ אותו בפורמט המקורי ב־BF16 תצטרכו כרטיס מסך עם 16 גיגה זיכרון גרפי, ואם תבצעו כיול לקוונטיזציה תוכלו לדחוס אותו לפחות מ־8 גיגה זיכרון. המפתחים ממליצים להשתמש ב־vLLM מגרסה 1.12 ומעלה, או בגרסת טרום הפצה של ספריית transformers מגרסה חמש יחד עם mistral-common לתמיכה בטוקנייזר.

ברירת המחדל של חלון ההקשר מוגדרת למקסימום, לכן כדאי להגביל את אורך הקלט עם הדגל max-model-len כדי למנוע קריסה של זיכרון ה־GPU. אם אתם רק צריכים צ'אט או מודל שעונה לשאלות ולא מתכננים לאמן אותו בעצמכם, עדיף לקחת ישירות את גרסת ה־Instruct המוכנה או לפנות ל־API חיצוני במקום להרים שרת עצמאי.

pip install -U huggingface_hub
hf download mistralai/Ministral-3-3B-Base-2512

הקבצים

14 קבצים במאגר, 14.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• consolidated.safetensors7.7 GB
• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors2.7 GB
• tokenizer.json17.1 MB
• tekken.json16.8 MB
• tokenizer_config.json198.1 KB
• special_tokens_map.json147.1 KB
• model.safetensors.index.json45.6 KB
• README.md11.6 KB
• .gitattributes1.6 KB
• config.json1.6 KB
• params.json1.1 KB
• processor_config.json976 B
• generation_config.json131 B

הרישיון

המודל מופץ תחת רישיון קוד פתוח של אפאצ'י 2.0. מותר להשתמש בו לצרכים מסחריים, לבצע שינויים, לאמן אותו מחדש ולהטמיע אותו במוצרים פרטיים בלי תשלום תמלוגים, כל עוד שומרים על הודעת הרישיון המקורית ולא מפרים זכויות יוצרים של צד שלישי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗