Devstral-Small-2505_gguf

קוד פתוח

mistralaiapache-2.02025-05-19

lmstudio
gguf
en
fr
de

גרסת קוד ממוקדת של מיסטרל שמיועדת להרצה עצמאית כסוכן פיתוח. הוא יודע לעבוד עם כלים חיצוניים, לערוך קבצים בפרויקט, ומחזיק בתוצאות הגבוהות ביותר בקוד פתוח על SWE-bench.

109 GBמשקל הקבצים
1,387הורדות בחודש
80לייקים

מה זה

מיסטרל בנו את המודל הזה יחד עם All Hands AI על בסיס Mistral-Small-3.1 בגודל של 24 מיליארד פרמטרים. המטרה כאן לא הייתה עוד מודל שמציע השלמת שורות פשוטה בעורך הקוד, אלא מוח לסוכני תוכנה שמסוגלים לחקור מאגרי קוד, להפעיל כלים ולערוך כמה קבצים במקביל בתוך פרויקט שלם. כדי להגיע לזה הם ויתרו לגמרי על רכיב הראייה שהיה במודל המקורי והשאירו אותו מודל טקסט בלבד.

הוא מגיע עם חלון הקשר של 128 אלף תווים וטוקנייזר בשם Tekken עם אוצר מילים של 131 אלף מונחים. ההישג העיקרי שמיסטרל מציגים הוא המקום הראשון בין מודלי הקוד הפתוח במבחן SWE-bench, שבודק פתרון של תקלות אמיתיות מגיטהאב. זה אומר שהוא מצליח להבין משימות תוכנה מורכבות יותר מרוב המודלים בגודל דומה שרצים על מחשב אישי.

מתאים ל

סוכן תוכנה עצמאי
חיבור ישיר ל־OpenHands לצורך פתרון תקלות מורכבות ועריכת מספר קבצים בפרויקט בלי להוציא קוד החוצה.
חקר מאגרי קוד מקומיים
ניתוח וחיפוש בתוך פרויקטים גדולים בעזרת חלון הקשר של 128k על גבי מחשב פיתוח עם 32GB זיכרון.
סביבות פיתוח סגורות
מתאים לארגונים שמחייבים ריצה על שרתים מקומיים או ללא חיבור רשת חיצוני, תחת רישיון מסחרי פתוח.

איפה זה נופל

המודל מיועד לטקסט וקוד בלבד. מיסטרל הסירו ממנו במפורש את יכולות הראייה, כך שאי אפשר להזין לו צילומי מסך, דיאגרמות ארכיטקטורה או ממשקי משתמש כדי לנתח תקלות עיצוב. בנוסף, מיסטרל עצמם מודים בכרטיס שאין להם עדיין מספיק ניסיון בייצור קבצי GGUF לקהילה ומבקשים דיווחים על תקלות, מה שאומר שחלק מהקבצים עלולים להכיל באגים בהמרה. עברית לא מופיעה ברשימת השפות הנתמכות שלו, שכוללת רק שפות אירופיות מרכזיות, יפנית וקוריאנית.

אותה משפחה

Devstral-Small-2505 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Devstral-Small-25052,913

שאלות
נפוצות

האם המודל תומך בהבנת קבצי תמונה או צילומי מסך של באגים?

לא. מפתחיו הסירו את מקודד הראייה שהיה קיים במודל הבסיס כדי להתמקד אך ורק בקוד ובטקסט, ולכן הוא לא מקבל תמונות כלל.

האם אפשר להריץ אותו על מחשב נייד רגיל?

רק אם יש לכם מחשב מק עם לפחות 32GB זיכרון מאוחד או מחשב עם כרטיס מסך חזק כמו RTX 4090. מחשבים ניידים סטנדרטיים עם 16GB זיכרון לא יצליחו להחזיק אותו בצורה שמישה.

איך מריצים

בשביל להריץ אותו מקומית צריך מחשב חזק, אבל לא חומרת שרתים יקרה. כרטיס RTX 4090 בודד או מחשב מק עם 32GB זיכרון יספיקו כדי להעלות אותו בקוונטיזציה מומלצת כמו Q4_K_M או Q5_K_M דרך LM Studio, שגם מציע ממשק שורת פקודה נוח לטעינת קבצי GGUF.

מיסטרל ממליצים לחבר אותו ישירות לתשתית של OpenHands דרך דוקר כדי לקבל סוכן אוטונומי שרץ בסביבת Sandbox. אם אין לכם לפחות 32GB זיכרון פנוי, או שאתם לא רוצים להעמיס על המעבד הגרפי המקומי פרויקטים כבדים, עדיף לחכות או להשתמש בנקודת קצה מרוחקת.

ollama run hf.co/mistralai/Devstral-Small-2505_gguf:devstralQ5_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

devstral47.2 GB devstralQ8_025.1 GB devstralQ5_K_M16.8 GB devstralQ4_K_M14.3 GB devstralQ4_013.4 GB

הקבצים

7 קבצים במאגר, 109 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הוא מופץ ברישיון Apache 2.0 מלא. אפשר להשתמש בו חופשי, לשנות אותו, לשלב אותו במוצרים מסחריים או לבנות עליו שירותים פנימיים בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗