GPT
הוספת כלי
K

mlx-community/Kimi-K2.5

קוד פתוח

mlx-communityother2026-01-27

  • mlx
  • safetensors
  • kimi_k25
  • text-generation
  • conversational

הסבה לפורמט MLX של מודל ענק עם מעל טריליון פרמטרים וחלון הקשר עצום. הוא מיועד למי שמחזיק חומרת מק קיצונית וצריך לנתח מסמכים ארוכים מקומית.

  • 1026Bפרמטרים
  • 262,144טוקנים בהקשר
  • 612 GBמשקל הקבצים
  • 152,880הורדות בחודש

מה זה

הפרויקט הזה לוקח את המודל המקורי של moonshotai וממיר אותו ישירות לעבודה עם ספריית MLX של אפל. מדובר במפלצת של 1026B פרמטרים שמיועדת כולה ליצירת טקסט, עם חלון הקשר שמגיע ל־262,144 טוקנים ומאפשר לבלוע ספריות קוד שלמות או תיקי מסמכים ענקיים בלי לחתוך אותם באמצע.

כרטיס המודל לא חושף מבחני ביצועים, מדדי השוואה או נתונים על אופן האימון שלו. מה שמקבלים כאן זה נטו משקלים מומרים שנועדו לפעול על החומרה של אפל, כך שאי אפשר לדעת מראש איך הוא עומד מול חלופות קיימות בלי להוריד ולבדוק בפועל.

מתאים ל

  • ניתוח מסמכים ארוכים

    חלון הקשר של מעל 260 אלף טוקנים מאפשר לעבד חוזים ותיקי מידע שלמים בבת אחת.

  • מחקר מקומי על חומרת אפל

    הוא מותאם ישירות לספריית MLX ומאפשר לחקור התנהגות מודל ענק בלי שרתי לינוקס.

  • מעבר על בסיסי קוד

    ההקשר הרחב מאפשר לטעון עשרות קובצי מקור יחד כדי למצוא קשרים בין רכיבים.

איפה זה נופל

החיסרון המרכזי כאן הוא גודל הקבצים הקיצוני, שמציב מחסום חומרה כמעט בלתי עביר לרוב המפתחים. בנוסף, כרטיס המודל לא מפרט שום מידע על נתוני האימון, תמיכה בשפות שאינן אנגלית או סינית, או התנהגות עם עברית. לפני שמבססים עליו פיתוח, צריך לבדוק מאפס איך הוא מגיב לשפה המקומית והאם הזמנים של יצירת טוקנים בכלל שמישים.

שאלות
נפוצות

האם המודל הזה יעבוד על מקבוק פרו רגיל?

לא, המשקלים לבדם תופסים 612 גיגה בייט. בשביל לטעון ולהריץ מודל בגודל כזה נדרש מחשב מק ייעודי עם נפח זיכרון אחוד עצום, שקיים רק בתצורות הגבוהות ביותר של תחנות עבודה.

מה הרישיון אומר לגבי שימוש במוצר מסחרי?

הרישיון מסומן רק כרישיון אחר ולכן אין כאן היתר מסחרי מובטח. תצטרכו לבדוק את תנאי הרישיון של המודל המקורי מבית moonshotai כדי להבין אם מותר לשלב אותו במערכת מסחרית.

איך מריצים

כדי להריץ אותו צריך להתקין את ספריית mlx-lm ולטעון את המשקלים ישירות בפייתון דרך פקודת load הפשוטה. המשקל הכולל של הקבצים מגיע ל־612 גיגה בייט שמחולקים ל־199 חלקים, כך שחובה להחזיק תחנת מק עם זיכרון אחוד עצום, הרבה מעבר למחשב נייד סטנדרטי.

אם אין לכם Mac Studio או Mac Pro עם מפרט קצה של זיכרון, אין בכלל טעם לנסות להרים את זה מקומית. במצב כזה, עדיף להשתמש ב־API מרוחק במקום להשקיע שעות בהורדה של מאות גיגה בייטים שלא יצליחו להיטען לזיכרון.

pip install -U huggingface_hub
hf download mlx-community/Kimi-K2.5

הקבצים

199 קבצים במאגר, 612 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר בתור other ולא כרישיון קוד פתוח סטנדרטי כמו אפאצ'י או MIT. המשמעות היא שחובה לאתר את תנאי השימוש המקוריים של חברת moonshotai לפני שמשלבים את המשקלים האלה במוצר מסחרי, כי אין כאן היתר שימוש גורף או ברור מאליו.

הרישיון המלא בעמוד המודל ↗