GPT
הוספת כלי
K

Kimi-K2-Instruct-0905

קוד פתוח

moonshotaiother2025-09-03

  • transformers
  • safetensors
  • kimi_k2
  • text-generation
  • conversational

מודל ענק שמיועד בעיקר למשימות תכנות מורכבות וסוכני קוד עצמאיים. הוא מפעיל רק חלק קטן מהמשקולות בכל טוקן, ומחזיק חלון הקשר עצום של 256 אלף טוקנים.

  • 1026Bפרמטרים
  • 262,144טוקנים בהקשר
  • 959 GBמשקל הקבצים
  • 36,067הורדות בחודש

מה זה

מדובר במודל שפת קוד מבוסס תערובת מומחים, שמכיל טריליון פרמטרים בסך הכול אבל מפעיל רק 32 מיליארד פרמטרים פר טוקן. המבנה הזה, שמשתמש בשישים ואחת שכבות וארכיטקטורת DeepSeek, מאפשר לו להתמקד במשימות של סוכני פיתוח, כתיבת קוד פרונטאנד והפעלת כלי טרמינל.

במדדי ביצועים של תכנות כמו SWE-Bench, הוא מציג דיוק של 69.2 אחוזים, ועוקף מודלים כמו DeepSeek-V3.1. במבחן הטרמינל הוא רושם 44.5 אחוזים, מעל קלוד אופוס 4. המספרים האלה מראים שהוא יודע להתמודד עם פתרון תקלות בקוד קיים ומחיקת קבצים מיותרים בהקשר של גיט, ולא רק לפלוט קטעי קוד בודדים.

מתאים ל

  • סוכן תכנות אוטונומי

    הוא מיועד להרצת פקודות טרמינל ועריכת קוד במאגרי גיט קיימים עם חלון הקשר של 256k.

  • פיתוח ממשקי פרונטאנד

    המודל כולל שיפורים ייעודיים לכתיבת קוד ממשק משתמש פרקטי ואסתטי.

  • ניפוי באגים במאגרים גדולים

    הוא יודע לסרוק היסטוריית קוד ארוכה ולבודד את התיקון הנדרש ברמת השרת.

איפה זה נופל

למרות ההצלחה בפתרון בעיות נקודתיות, במבחן המורכב Multi-SWE-Bench המודל מגיע ל־33.5 אחוזי דיוק בלבד, ונופל משמעותית מול מודלים כמו קלוד סונט 4. כשהמשימה דורשת שינויים רוחביים במספר קבצים במקביל, כושר הניתוח שלו מוגבל.

בנוסף, מנוע ההרצה שלכם חייב לתמוך באופן מובנה במנגנון קריאת הכלים הספציפי שלו, אחרת תכונות הסוכן והפעלת הפקודות בטרמינל לא יפעלו כלל.

שאלות
נפוצות

האם אפשר להריץ אותו על שרת יחיד עם כרטיס RTX 4090?

ממש לא. הקבצים לבדם שוקלים קרוב לטרה בייט, וגם בגרסת תערובת מומחים נדרש מערך שרתי GPU תעשייתי כדי לטעון 1026 מיליארד פרמטרים לזיכרון.

האם המודל דורש התאמה מיוחדת בקריאות API?

הוא תואם למבנה של OpenAI ו־Anthropic, אך מומלץ לעבוד בטמפרטורה 0.6. אם פונים בממשק תואם Anthropic, המערכת ממפה אוטומטית את הטמפרטורה ביחס מתאים.

איך מריצים

כדי להריץ אותו עצמאית תצטרכו חומרת שרתים קיצונית. משקל הקבצים עומד על 959 ג'יגה בייט בשמונים קבצים בפורמט bfloat16, כך שתצטרכו אשכול של מספר כרטיסי שרת עם מאות ג'יגה בייט של זיכרון גרפי, תוך שימוש במנועים כמו vLLM, SGLang, KTransformers או TensorRT-LLM.

לרוב המוחלט של המפתחים, הרצה עצמית של טריליון פרמטרים פשוט לא כלכלית ולא מעשית. עדיף להשתמש ב־API של Moonshot שתומך בפרוטוקול של OpenAI ושל Anthropic, ולהגדיר טמפרטורה של 0.6 כפי שהמפתחים ממליצים.

from transformers import pipeline

pipe = pipeline("text-generation", model="moonshotai/Kimi-K2-Instruct-0905")
print(pipe("שלום"))

הקבצים

80 קבצים במאגר, 959 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד והמשקולות שוחררו תחת רישיון שמוגדר Modified MIT, בעוד שבחלק מהמקומות הוא מסווג כ־other. זה אומר שחלים עליו שינויים מסוימים ביחס לרישיון MIT החופשי הרגיל. לפני שמשלבים אותו במוצר מסחרי, חובה לקרוא את קובץ הרישיון המקורי כדי להבין אילו הגבלות הפצה או שימוש מסחרי הוכנסו אליו.

הרישיון המלא בעמוד המודל ↗