GPT
M

Ministral-3-3B-Reasoning-2512

קוד פתוח

mistralaiapache-2.02025-10-31

  • vllm
  • safetensors
  • mistral3
  • mistral-common
  • en

מודל קומפקטי שמחבר יכולות ראייה וחשיבה שלב אחר שלב, ומתאים למי שרוצה להריץ לוגיקה מקומית על חומרה צנועה.

  • 4.3Bפרמטרים
  • 262,144טוקנים בהקשר
  • 14.4 GBמשקל הקבצים
  • 128,895הורדות בחודש

מה זה

מדובר במודל שמשלב רשת טקסט של 3.4 מיליארד פרמטרים ומקודד תמונה של 0.4 מיליארד, ומכוון לפתרון בעיות חישוביות ותכנות. להבדיל ממודלים קטנים רגילים שעונים ישירות, גרסת הריזונינג פולטת שרשרת מחשבה לפני התשובה הסופית, ומציגה ביצועים סבירים במבחנים כמו LiveCodeBench עם ציון של 0.548 ומתמטיקה בסיסית.

הוא כולל תמיכה מובנית בקריאה לפונקציות, פלט במבנה נתונים וחלון קשר של עד 256 אלף טוקנים. בבדיקות חשיבה מורכבות כמו GPQA Diamond הוא מגיע לציון של 0.534, תוצאה נמוכה מזו של מתחרה ישיר כמו קוון בגודל דומה, אך בחידות מתמטיות של AIME25 הוא עוקף אותו ומגיע לציון 0.721.

מתאים ל

  • חילוץ נתונים מקומי

    פלט נתונים מובנה מתמונות וטקסט על חומרה ביתית בלי לשלוח מידע לענן.

  • סוכן בדיקות קוד

    פתרון באגים ומעקב אחר לוגיקה תכנותית בזכות שרשרת חשיבה וציון סביר בקוד.

  • ניתוח תמונות קצה

    זיהוי והסבר תמונות מרובעות במערכות משובצות עם פחות משמונה גיגה זיכרון.

איפה זה נופל

המודל חלש בידע כללי מורכב ונופל משמעותית במבחני ידע מתקדם מול מודלים מקבילים. הראייה הממוחשבת דורשת יחס תמונה קרוב לריבוע, ותמונות רחבות או צרות מדי פוגעות בדיוק. בנוסף, מיסטרל מזהירים לא להעמיס עליו כמות גדולה של כלים, ואין לו תמיכה רשמית בעברית ברשימת השפות המוגדרות.

אותה משפחה

Ministral-3-3B-Reasoning-2512 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם אפשר לעבוד עם המודל בעברית בצורה טובה?

המודל לא כולל עברית ברשימת השפות הרשמית שלו, שמתמקדת בשפות אירופיות עיקריות, סינית, יפנית, קוריאנית וערבית. הוא יבין מילים מסוימות בגלל אימון כללי, אבל יתקשה מאוד בניסוח ובהיגיון בשפה הזו.

האם כדאי להריץ את מלוא חלון ההקשר של 256K מקומית?

בדרך כלל לא. פתיחת חלון מלא תגזול כמויות עצומות של זיכרון למטמון הקשב, הרבה מעבר לגודל המודל עצמו. עדיף להגביל את האורך המרבי בהפעלת השרת לפי הצרכים האמיתיים של היישום.

איך מריצים

בפורמט המקורי נדרשים 16 גיגה זיכרון גרפי, אך עם קוונטיזציה אפשר להסתפק בפחות מ־8 גיגה של זיכרון מערכת או כרטיס מסך ביתי. ההרצה נעשית ישירות דרך vLLM עם דגלים ספציפיים לטוקנייזר ולמפענח החשיבה של מיסטרל, או דרך גרסה מוקדמת של טרנספורמרס.

אם אתם צריכים את מלוא חלון ההקשר, הזיכרון הנדרש יקפוץ משמעותית מעבר למשקל הקבצים, ולכן כדאי להגביל את אורך ההקשר בהגדרות ההפעלה. שווה להחזיק שרת כזה רק אם אתם חייבים פרטיות מלאה או עבודה באופליין, כי עבור קריאות בודדות עדיף לשלם לפי טוקן בשרת חיצוני ולא לתחזק שרת קבוע.

pip install -U huggingface_hub
hf download mistralai/Ministral-3-3B-Reasoning-2512

הרישיון

רישיון אפאצ'י 2.0 מלא. אפשר להשתמש במודל למוצרים מסחריים, לשנות אותו, לאמן אותו מחדש ולהפיץ אותו בחופשיות, כל עוד שומרים על הודעת זכויות היוצרים המקורית ונמנעים מהפרת זכויות של צד שלישי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗