GPT
הוספת כלי
M

MiniMax-M2.7-AWQ-4bit

קוד פתוח

cyankiwiother2026-04-13

  • transformers
  • safetensors
  • minimax_m2
  • text-generation
  • conversational

גרסת קוונטיזציה של מודל קוד וסוכנים חזק עם הקשר של 196 אלף טוקנים. היא מיועדת למי שרוצה להריץ לוקאלית מודל שמצטיין באיתור תקלות מערכת ובמשימות פיתוח מורכבות.

  • 37Bפרמטרים
  • 196,608טוקנים בהקשר
  • 122 GBמשקל הקבצים
  • 7,559הורדות בחודש

מה זה

מדובר במודל של 37 מיליארד פרמטרים שמכוון ישירות לעבודת הנדסת תוכנה מעשית ותהליכי סוכנים עצמאיים. המפתחים שלו מדווחים שהוא השתתף באימון של עצמו על ידי אופטימיזציה לסביבות עבודה ועדכון זיכרון. מבחינת יכולות טכניות הוא מתמודד עם ניתוח לוגים, שחזור תקלות פרודקשן, עבודה מול בסיסי נתונים וקבלת החלטות תשתיתיות.

במדדי ביצועים הנתונים מציגים תמונה תחרותית מאוד ביחס למודלים מסחריים סגורים. בבנצ'מרק של תחרויות למידת מכונה MLE Bench Lite הוא הגיע לשיעור זכייה במדליות של 66.6 אחוזים. במבחן SWE Multilingual הוא קיבל ציון של 76.5, ובמבחן SWE-Pro הגיע לתוצאה של 56.22 אחוזים, מה שמעיד על הבנה עמוקה של קוד מרובה קבצים ומערכות מורכבות ולא רק השלמת פונקציות בודדות.

מתאים ל

  • ניתוח תקלות פרודקשן

    מתאים לחיבור ללוגים ומדדי מערכת בזמן אמת לאיתור סיבת שורש מהירה בתשתיות ענן.

  • סוכני פיתוח מרובי שלבים

    מתאים להרצת צוותי סוכנים עם שמירת תפקידים מוגדרת לצורך בדיקות קוד ותיקון באגים.

  • אוטומציה של מסמכים מורכבים

    מספק יכולת עריכה מרובת סבבים של קובצי אקסל, מצגות ומסמכי וורד ברמת דיוק גבוהה.

איפה זה נופל

למרות שמדובר בגרסת 4 ביט, משקל הקבצים עצמו מגיע ל־122 ג'יגה בייט, מה שמעיד על עומס זיכרון עצום שאינו נגיש למפתח בודד על חומרה שולחנית. בבנצ'מרק NL2Repo המודל עומד על 39.8 אחוזים בלבד, כך שהיכולת שלו לבנות מאגר קוד שלם מאפס עדיין מוגבלת. בנוסף, מודלים שעברו כיווץ אגרסיבי עלולים לאבד דיוק במשימות קוד רגישות, ולכן חובה לבדוק את אמינות הריצה על תרחישי קצה לפני הטמעה בפרודקשן.

שאלות
נפוצות

האם אפשר להריץ את המודל על מחשב נייד חזק?

לא. משקל הקבצים לבדו הוא 122 ג'יגה בייט, וכדי להעלות את 37 מיליארד הפרמטרים יחד עם חלון ההקשר הגדול צריך חומרת שרתים עם כרטיסי מסך מרובים בעלי זיכרון וידאו ייעודי גדול.

מה ההגדרות המומלצות ליצירת טקסט לפי היצרן?

לפי תיעוד המודל, מומלץ להשתמש בטמפרטורה של 1.0, ערך top p של 0.95, וערך top k של 40 לצד פרומפט מערכת סטנדרטי שמגדיר את זהות המודל.

איך מריצים

המשקל הכולל של הקבצים עומד על 122 ג'יגה בייט בפורמט AWQ של 4 ביט, המחולקים ל־56 קבצים. כדי להריץ אותו יחד עם חלון הקשר מלא שמגיע ל־196,608 טוקנים, תצטרכו שרת עם מספר כרטיסי מסך וזיכרון וידאו משמעותי מאוד, שכן גם בקוונטיזציה כזו הדרישות לחלון ארוך תופסות נפח רב. ההרצה עצמה נתמכת דרך ספריות כמו vLLM, SGLang ו־Transformers.

אם אין לכם קלאסטר ייעודי כזה בבית או במשרד, עדיף להשתמש ב־API הרשמי של MiniMax או בנקודת הקצה של NVIDIA NIM במקום להתעסק עם אחסון ושרתים כבדים.

from transformers import pipeline

pipe = pipeline("text-generation", model="cyankiwi/MiniMax-M2.7-AWQ-4bit")
print(pipe("שלום"))

הקבצים

56 קבצים במאגר, 122 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון של המודל מוגדר תחת סיווג כללי ולא פתוח רגיל. המשמעות היא שחובה להיכנס למאגר המקורי ולבדוק את תנאי השימוש המשפטיים של MiniMax כדי לדעת אם מותר להשתמש בו במוצרים מסחריים, מה ההגבלות על הפצה, והאם יש תנאי שימוש ייחודיים לחברות.

הרישיון המלא בעמוד המודל ↗