GPT
הוספת כלי
D

Devstral-Small-2-24B-Instruct-2512

קוד פתוח

mistralaiapache-2.02025-11-28

  • vllm
  • safetensors
  • mistral3
  • mistral-common
  • fp8

המודל מציע יכולות סוכן לפיתוח תוכנה בגודל קומפקטי שמסוגל לרוץ מקומית. הוא נבנה כדי להריץ כלים, לערוך כמה קבצים במקביל ולהתמודד עם ריפו שלם.

  • 24Bפרמטרים
  • 393,216טוקנים בהקשר
  • 48.1 GBמשקל הקבצים
  • 232,184הורדות בחודש

מה זה

מיסטרל בנו כאן מודל של 24 מיליארד פרמטרים שמתמקד בעבודה כסוכן תוכנה ולא רק בהשלמת שורות קוד. הוא מגיע עם תמיכה בראייה לניתוח תמונות לצד טקסט, ומיועד להשתלב בסביבות עבודה כמו סקריפטים בטרמינל, עורכי קוד ומערכות סוכנים עצמאיות.

במדד SWE-bench Verified הוא מגיע ל־68.0%, תוצאה שמשתווה למודלים ענקיים בהרבה כמו GLM 4.6 עם 355 מיליארד פרמטרים. המשמעות בפועל היא יכולת טובה מאוד בפתרון באגים אמיתיים בריפוזיטורי, אף על פי שבמדד Terminal Bench 2 הוא נעצר על 22.5%, כך ששליטה מלאה בפקודות מסוף מורכבות עדיין מוגבלת אצלו ביחס לענקים.

מתאים ל

  • סוכן תיקון באגים בריפו

    התוצאה ב־SWE-bench מראה שהוא מצטיין בעריכת מספר קבצים וחקירת קוד מקור.

  • סייען פיתוח מקומי בטרמינל

    הוא רץ על חומרה מקומית כמו מק 32GB בשילוב עם כלי ה־CLI של מיסטרל.

  • ניתוח דיאגרמות וממשקים בקוד

    יכולות הראייה מאפשרות לו להבין צילומי מסך ושרטוטי ממשק יחד עם הקוד.

איפה זה נופל

החולשה העיקרית שלו מופיעה בטרמינל. ציון של 22.5% ב־Terminal Bench 2 מראה שהוא יתקשה לבצע שרשראות פקודות מערכת מסובכות בלי להישבר בדרך, פער ניכר מול מודלים קנייניים גדולים שמגיעים ליותר מ־50%. בנוסף, כרטיס המודל מזהיר מפני ביצועים נמוכים בסביבות הרצה מקומיות מסוימות ומפנה לדיווח על תקלות, מה שמחייב בדיקה יסודית של התשתית שלכם לפני שמכניסים אותו לזרימת עבודה בייצור.

שאלות
נפוצות

אפשר להריץ אותו על כרטיס מסך בודד?

כן, המודל מותאם לריצה על כרטיס כמו RTX 4090 או מק עם 32GB זיכרון. עם זאת, בהגדרות הרשמיות של vLLM לשרת ייצור מיסטרל מגדירים חלוקה לשני כרטיסים כדי להתמודד עם עומסים וחלון הקשר מלא.

האם הוא באמת מחליף מודלים של מאות מיליארדי פרמטרים?

במשימות ספציפיות של הנדסת תוכנה הוא עומד ראש בראש עם מודלים של מאות מיליארדים ומשיג 68% בפתרון באגים. במשימות מערכת מורכבות יותר ובשליטה בטרמינל המודלים הענקיים עדיין מובילים עליו בפער ניכר.

איך מריצים

המשקל הכולל של הקבצים עומד על 48.1 גיגה בייט בפורמט FP8, מה שדורש כרטיס מסך כמו RTX 4090 בודד או מחשב מק עם 32 גיגה בייט זיכרון כדי להרים אותו מקומית. מיסטרל ממליצים להריץ אותו דרך vLLM עם חלוקה לשני כרטיסים להפקה, כשיש תמיכה גם ב־SGLang, Ollama, LM Studio ו־llama.cpp.

אם אין לכם חומרה ייעודית עם מספיק זיכרון וידאו פנוי להקשרים ארוכים, חבל להסתבך עם התקנות. במצב כזה עדיף לצרוך אותו דרך ה־API של החברה או באמצעות כלי השורה שלהם.

pip install -U huggingface_hub
hf download mistralai/Devstral-Small-2-24B-Instruct-2512

הקבצים

22 קבצים במאגר, 48.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0 מלא. אפשר להשתמש בו לצרכים מסחריים ופרטיים, לשנות את המשקלים, לשלב אותו במוצרים מסחריים ולהפיץ הלאה בלי תמלוגים, כל עוד שומרים על תנאי הקרדיט וההודעה המקורית של הרישיון.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗