GPT
הוספת כלי
M

MiMo-V2.5

קוד פתוח

XiaomiMiMomit2026-04-27

  • transformers
  • safetensors
  • mimo_v2
  • text-generation
  • multimodal

מודל ענק רב-אופני מבוסס תערובת מומחים עם חלון הקשר של מיליון טוקנים. הוא פונה למי שצריך עיבוד סוכני של טקסט, תמונה, וידאו וקול יחד תחת רישיון פתוח.

  • 311Bפרמטרים
  • 1,048,576טוקנים בהקשר
  • 294 GBמשקל הקבצים
  • 322,539הורדות בחודש

מה זה

מדובר בארכיטקטורת תערובת מומחים דלילה עם שלוש מאות ועשרה מיליארד פרמטרים בסך הכול, אבל רק חמישה עשר מיליארד מופעלים בכל טוקן. המודל כולל רכיבים ייעודיים לתמונה של שבע מאות עשרים ותשעה מיליון פרמטרים ולשמע של מאתיים שישים ואחד מיליון פרמטרים, ולא מסתמך רק על טקסט. האימון שלו נעשה על כארבעים ושמונה טריליון טוקנים בפורמט מעורב, כשהדגש הושם על תהליכי עבודה סוכניים.

הייחוד הטכני כאן נמצא בשילוב של מנגנון קשב בחלון נע עם קשב מלא ביחס של חמש לאחד. השילוב הזה מקטיץ את צריכת זיכרון הקאש כמעט פי שישה, מה שמסביר איך המודל מסוגל להתמודד עם חלון של מיליון טוקנים בלי לחנוק את החומרה לחלוטין. בנוסף הוטמעו שלושה מודולי חיזוי מרובה טוקנים כדי להאיץ את תהליך ההסקה.

מתאים ל

  • בניית סוכנים מרובי אופנויות

    שילוב יכולות טקסט, תמונה וקול עם ארכיטקטורה שעברה אימון ייעודי למשימות סוכניות וחיזוק מבוסס משוב.

  • ניתוח מסמכים ווידאו ארוך

    חלון הקשר של מיליון טוקנים לצד מנגנון קשב שמקטין את תפיסת הזיכרון מאפשר סריקת קבצים גדולים במיוחד.

  • מערכות דיאלוג מבוססות קול

    רכיב עיבוד שמע מובנה שמאפשר ניתוח ישיר של אודיו ללא צורך במודל תמלול נפרד לפניהם.

איפה זה נופל

המודל אומן רשמית רק על אנגלית וסינית, כך ששימוש בעברית לא נתמך באופן מובטח וידרוש בדיקה יסודית לגבי איכות הפלט והבנת ההקשר. בנוסף, המפתחים פרסמו התרעה על עדכון קבצי הקונפיגורציה והטוקנייזר מיד לאחר ההשקה, ושימוש בקבצים ישנים פוגע בביצועים. הכרטיס מציג גרפים ומדדים כלליים על יכולות סוכנים ורב-אופניות, אך אינו מפרט תוצאות מספריות קונקרטיות של ציוני דיוק בבנצ'מרקים המוכרים.

אותה משפחה

MiMo יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

MiMo-7B-RL32,361 MiMo-7B-Base20,240

שאלות
נפוצות

האם כדאי לי לנסות להריץ אותו על שרת יחיד במשרד?

לא. מדובר במודל ששוקל כמעט שלוש מאות גיגה בייט ודורש תשתית שרתים רצינית של כרטיסי מסך ארגוניים. אם אין לכם חומרה כזו, עדיף להשתמש בגישה דרך שירותי ענן.

למה לשים לב לפני שמורידים את המשקלים?

חובה לוודא שמושכים את גרסת קבצי ההגדרות והטוקנייזר המעודכנת לאחר תיקון המפתחים. קבצים מהגרסה הראשונית יגרמו לביצועים ירודים בעת ההרצה.

איך המודל מתמודד עם טקסטים בעברית?

השפות המדווחות בכרטיס המודל הן אנגלית וסינית בלבד. כל עבודה בעברית עלולה לסבול מטעויות הבנה ותרגום, ולכן חובה לבצע בדיקות מקיפות לפני שמסתמכים עליו.

איך מריצים

המשקל הגולמי של הקבצים עומד על מאתיים תשעים וארבעה גיגה בייט המחולקים לשלושים ותשעה קבצים. כדי לארח אותו עצמאית תצטרכו שרת עם מספר כרטיסי מסך בעלי נפח זיכרון כולל של מאות גיגה בייטים, גם אם מפעילים רק חלק קטן מהפרמטרים בכל שלב. ההרצה מתבצעת בעיקר דרך מנועים כמו אס ג'י לאנג או וי אל אל אם שמותאמים לארכיטקטורה הזו.

אם אין לכם קלאסטר שרתים ייעודי, עדיף לפנות לפלטפורמת הענן שלהם דרך ממשק תכנות יישומים במקום לנסות לדחוס אותו לתחנת עבודה מקומית. מי שרק רוצה לבדוק יכולות בסיסיות ללא תמונות או קול יכול להסתפק בגרסת הבסיס שמגיעה עם חלון הקשר של מאתיים חמישים ושבעה אלף טוקנים.

from transformers import pipeline

pipe = pipeline("text-generation", model="XiaomiMiMo/MiMo-V2.5")
print(pipe("שלום"))

הקבצים

39 קבצים במאגר, 294 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון אם איי טי מלא. זה אומר שמותר להשתמש בו לצרכים מסחריים, לשנות אותו, להפיץ אותו ולשלב אותו במוצרים סגורים בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗