Mistral-Large-3-675B-Instruct-2512

קוד פתוח

mistralaiapache-2.02025-11-28

vllm
mistral-common
compressed-tensors
en
fr

מודל ענק בקוד פתוח שמשלב יכולות ראייה וטקסט עם ארכיטקטורת תערובת מומחים. הוא נותן חלון הקשר של 256 אלף טוקנים למי שחייב ריצה מקומית בלי תלות בשרתים סגורים.

635 GBמשקל הקבצים
2,233הורדות בחודש
248לייקים

מה זה

מדובר במודל MoE עצום שמכיל 675 מיליארד פרמטרים בסך הכול, אבל מפעיל בפועל רק 41 מיליארד בכל שלב חישוב, לצד רכיב עיבוד תמונה של 2.5 מיליארד פרמטרים. הארכיטקטורה הזו נועדה לספק ביצועים של מודל ענק עם זמני תגובה של מודל קטן בהרבה. הגרסה הזו מגיעה בפורמט FP8 שעבר התאמה לשיחה, מענה להוראות, והפעלת כלים חיצוניים במבנה JSON.

הוא מיועד למערכות RAG מורכבות, ניתוח מסמכים ארוכים וקוד, עם תמיכה במספר שפות אירופיות, סינית, ערבית, יפנית וקוריאנית. עברית אינה מופיעה ברשימת השפות הרשמית של הכרטיס, ולכן נדרשת בדיקה זהירה אם מנסים להריץ אותו על טקסטים מקומיים.

מתאים ל

סוכן אוטונומי למערכות מידע
שילוב יכולת קריאת פונקציות מובנית עם הפעלה יעילה של 41 מיליארד פרמטרים במענה מהיר.
ניתוח תיקי מסמכים ענקיים
חלון הקשר של 256 אלף טוקנים מאפשר לעבד חוזים ארוכים וספריות קוד שלמות בבקשה אחת.
פענוח דוחות משולבי תרשימים
רכיב הראייה המובנה קורא גרפים ותמונות מתוך המסמך לצד ניתוח הטקסט עצמו.

איפה זה נופל

היוצרים מודים במפורש שהוא נופל ממודלים ייעודיים להסקה לוגית ומתמטיקה מורכבת, וגם בראייה ממוחשבת הוא מפסיד למודלים שנבנו קודם כל לתמונות. בנוסף, המערכת רגישה ליחס התמונה ודורשת לחתוך תמונות לצורה קרובה לריבוע כדי לא לפגוע באיכות. מורכבות הפריסה שלו עצומה, והכרטיס ממליץ להגביל מאוד את כמות הכלים שנותנים לו כדי שלא יתבלבל בקריאות פונקציה.

שאלות
נפוצות

האם אפשר להריץ את המודל על שרת של 8 כרטיסי A100?

לא בגרסה הזו. קובצי ה־FP8 מחייבים שרת של שמונה מאיצי H200 או B200, אבל החברה מספקת גרסת NVFP4 מותאמת לכרטיסי H100 ו־A100.

האם הוא מתאים לפתרון בעיות היגיון מורכבות?

היוצרים מציינים שמודלי הסקה ייעודיים עוקפים אותו בחישובי לוגיקה טהורים, ולכן הוא מתאים יותר לשיחה, הפעלת כלים וניתוח טקסט מאשר למתמטיקה כבדה.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־635 גיגה בייט, כך שאי אפשר להריץ אותו על שרת רגיל או תחנת עבודה ביתית. כדי להרים את גרסת ה־FP8 הזו תצטרכו שרת ייעודי של שמונה מאיצי H200 או B200, באמצעות ספריית vllm מגרסה 1.12.0 ומעלה, כשספריית transformers הרגילה בכלל לא נתמכת כאן עדיין.

אם אין לכם שרת כזה בענן או בדאטה סנטר פרטי, אין שום הגיון כלכלי לנסות להריץ אותו לבד. לרוב הצוותים יהיה זול ופשוט יותר לפנות ל־API חיצוני במקום לשלם על שרת שמחירו מגיע לאלפי דולרים בחודש.

pip install -U huggingface_hub
hf download mistralai/Mistral-Large-3-675B-Instruct-2512

הקבצים

283 קבצים במאגר, 635 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0 מלא, מה שמאפשר שימוש מסחרי, שינוי קוד והרצה פנימית בלי לשלם תמלוגים. התנאי היחיד הוא שמירה על זכויות היוצרים של המקור, בלי להפר זכויות של צד שלישי.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗