GPT
M

Ministral-3-8B-Instruct-2512

קוד פתוח

mistralaiapache-2.02025-10-31

  • vllm
  • safetensors
  • mistral3
  • mistral-common
  • en

מודל הוראות שמשלב ראייה ממוחשבת בתוך שמונה נקודה תשעה מיליארד פרמטרים. הוא מגיע מכווץ ישירות לפורמט שמונה ביט כדי לפעול מקומית על כרטיסי מסך צנועים עם זיכרון של שתים עשרה גיגה.

  • 8.9Bפרמטרים
  • 262,144טוקנים בהקשר
  • 19.4 GBמשקל הקבצים
  • 124,110הורדות בחודש

מה זה

מיסטרל בנו כאן ארכיטקטורה היברידית של מודל שפה בגודל שמונה נקודה ארבעה מיליארד פרמטרים, ועוד מקודד ראייה מובנה של אפס נקודה ארבעה מיליארד פרמטרים. הרעיון הוא לתת פתרון קומפקטי שמסוגל לעבד תמונות, להחזיר פלט גייסון, להפעיל כלים באופן טבעי, ולהחזיק חלון הקשר עצום של מאתיים שישים ושניים אלף טוקנים בלי צורך בשרתים מפלצתיים.

במבחני ביצועים מול דגמים כמו קוון שלוש שמונה בי, הוא מוביל במעט בבדיקות כתיבה רחבות כמו ויילדבנץ עם ציון של שישים ושש נקודה שמונה, ומשיג שמונה נקודה אפס שמונה בבחינת מולטימודאל. יחד עם זאת, במבחני מתמטיקה וקוד ישיר הוא לעיתים מפגר מאחורי המתחרה הסיני, כך שהיתרון שלו מתמקד בעיקר במשימות שיחה, קריאת תמונות וסוכן אוטונומי קל משקל.

מתאים ל

  • סוכן מקומי להפעלת כלים

    הוא כולל תמיכה מובנית בחילוץ גייסון והפעלת פונקציות, ורץ כולו על חומרת קצה פשוטה יחסית.

  • ניתוח מסמכים ותמונות מרובעות

    מקודד הראייה המובנה קורא תרשימים ואיורים בלי לשלוח מידע רגיש לשרת חיצוני.

  • עיבוד טקסטים ארוכים

    חלון הקשר של מאתיים חמישים ושש אלף טוקנים מאפשר להזין ספרים ופרוטוקולים שלמים בבת אחת.

איפה זה נופל

המודל רגיש מאוד לפרופורציות של תמונות, והיוצרים מציינים בפירוש שחובה לחתוך תמונות ליחס של אחד לאחד כדי לא לפגוע בדיוק של מפענח הראייה. בנוסף, הוא מתקשה להתמודד עם מספר רב של כלים במקביל, ודורש טמפרטורה נמוכה במיוחד של פחות מאפס נקודה אחת כדי לעבוד יציב. במבחני מתמטיקה הוא השיג שמונים ושבעה נקודה שש אחוז לעומת תשעים וארבעה אחוז של קוון המקביל, ועברית כלל אינה נכללת ברשימת השפות הנתמכות רשמית שלו.

אותה משפחה

Ministral-3-8B-Instruct-2512 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם הוא יעבוד טוב בעברית למרות שהיא לא מופיעה ברשימת השפות?

הוא עשוי לייצר עברית בסיסית, אבל השפות הנתמכות רשמית הן אנגלית, אירופאיות שונות, ערבית, סינית, יפנית וקוריאנית. לשימוש מסחרי מורכב בעברית כדאי לבדוק אותו היטב או לבחור מודל שעבר אימון ייעודי לשפה.

האם כרטיס מסך ביתי של 12GB יספיק לכל חלון ההקשר?

לא. שתים עשרה גיגה יספיקו לטעינת המשקולות בפורמט שמונה ביט ולשיחות קצרות בלבד. ניצול מלוא חלון ההקשר העצום ידרוש זיכרון וידאו גדול משמעותית כדי להחזיק את הטוקנים בזיכרון בזמן הריצה.

במה הגרסה הזו שונה מגרסת הריזונינג של אותו מודל?

גרסת האינסטראקט עברה כוונון ייעודי למענה ישיר על הוראות, שיחה והפעלת כלים, והיא מגיעה מוכנה בפורמט שמונה ביט. גרסת הריזונינג מיועדת לחשיבה ארוכה ופתרון בעיות מורכבות, ומופצת בקבצי בי פלוט שש עשרה כבדים יותר.

איך מריצים

כדי להריץ אותו צריך כרטיס מסך עם לפחות שתים עשרה גיגה זיכרון וידאו, הודות למשקולות שמגיעות ישירות בתצורת שמונה ביט. קבצי המודל תופסים תשעה עשר נקודה ארבעה גיגה בדיסק, והספרייה המומלצת להרצה היא וי אל אל אם מגרסה אפס נקודה שתים עשרה ומעלה, יחד עם התוסף של מיסטרל לטוקנייזר.

אם אתם מתכננים לפתוח את כל חלון ההקשר של מאתיים חמישים ושש אלף טוקנים, כרטיס של שתים עשרה גיגה ייחנק מיד בגלל זיכרון הקאש. בתרחיש כזה, או אם אין לכם חומרה ייעודית מקומית, עדיף להגביל את אורך ההקשר בהגדרות ההפעלה או לפנות לשירות ענן בתשלום לפי טוקנים.

pip install -U huggingface_hub
hf download mistralai/Ministral-3-8B-Instruct-2512

הרישיון

הפצה תחת רישיון אפאצ'י שתיים אפס מלא. אפשר להשתמש בו למוצרים מסחריים, להטמיע אותו בקוד סגור, לשנות את המשקולות ולהפיץ מחדש בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית ולא מפרים זכויות צד שלישי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗