Kimi-K2-Instruct

מה זה

מדובר בארכיטקטורת תערובת מומחים עם טריליון פרמטרים בסך הכול, אבל רק 32 מיליארד מתוכם רצים בכל טוקן נתון. המטרה כאן היא לתת מענה מהיר של מודל תגובתי ולא כזה שעוצר לחשוב דקות ארוכות, כשהמיקוד המרכזי הוא עבודה מול שורת פקודה, עריכת קבצים וקריאה לפונקציות חיצוניות.

במבחני תכנות מורכבים כמו לייב קוד בנץ' הוא מגיע ל־53.7 אחוזי הצלחה בריצה ראשונה, תוצאה שעוברת אפילו מודלים מובילים אחרים. גם במתמטיקה התוצאות גבוהות מאוד, עם 97.4 אחוזים במבחן מאת' 500, מה שמראה שהבסיס הלוגי שלו יציב ביותר למשימות פיתוח.

מתאים ל

• סוכני פיתוח אוטונומיים

  משיג 65.8 אחוזים בסווי בנץ' בריצה בודדת, ומיועד להריץ פקודות טרמינל ולתקן קוד לבד.

• הפעלת כלים ואוטומציות

  מציג ציונים גבוהים בבדיקות טאו 2 מרובות שלבים להתממשקות מדויקת מול מערכות חיצוניות.

• פתרון בעיות מתמטיות

  מגיע ל־69.6 אחוזים במבחן איימי 2024 ומספק יכולת חישוב לוגית חזקה ללא צורך בהמתנה ארוכה.

איפה זה נופל

הנקודה החלשה ביותר היא שאלות ידע קיצוניות. במבחן היומניטיז לאסט אקזם הוא מוציא רק 4.7 אחוזים, נמוך מרוב המתחרים, מה שאומר שלא כדאי להסתמך עליו כמקור ידע מוחלט לתחומי מחקר נדירים. בנוסף, מדובר במודל רפלקסיבי ללא מנגנון חשיבה מורחב, ולכן הוא לא יתאים למשימות שמחייבות תכנון ארוך של שרשרת צעדים לפני הפליטה הראשונה. אין גם שום נתון רשמי לגבי רמת השליטה שלו בשפה העברית.

אותה משפחה

Kimi-K2 יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

להוריד כמעט טרה בייט של משקולות זה לא משהו שעושים על מחשב רגיל. הקבצים שמורים בפורמט block-fp8 ומיועדים לפריסה במנועים כמו vLLM, SGLang או קיי טרנספורמרס, ומחייבים אשכול שרתים רציני עם כמה כרטיסי מסך רבי עוצמה כדי להחזיק את כל המומחים בזיכרון.

בגלל המשקל הכבד של החומרה, ברוב המקרים עדיף פשוט להתחבר לממשק ה־API של מונשוט שתואם לפרוטוקול של אופן איי איי ואנתרופיק, במקום לבנות תשתית שרתים מקומית ויקרה משלכם.

from transformers import pipeline

pipe = pipeline("text-generation", model="moonshotai/Kimi-K2-Instruct")
print(pipe("שלום"))

הקבצים

83 קבצים במאגר, 959 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-61-of-61.safetensors19.4 GB
• model-11-of-61.safetensors17.1 GB
• model-12-of-61.safetensors17.1 GB
• model-13-of-61.safetensors17.1 GB
• model-14-of-61.safetensors17.1 GB
• model-15-of-61.safetensors17.1 GB
• model-16-of-61.safetensors17.1 GB
• model-17-of-61.safetensors17.1 GB
• model-18-of-61.safetensors17.1 GB
• model-19-of-61.safetensors17.1 GB
• model-20-of-61.safetensors17.1 GB
• model-21-of-61.safetensors17.1 GB
• model-22-of-61.safetensors17.1 GB
• model-23-of-61.safetensors17.1 GB
• model-24-of-61.safetensors17.1 GB
• model-25-of-61.safetensors17.1 GB
• model-26-of-61.safetensors17.1 GB
• model-27-of-61.safetensors17.1 GB
• model-28-of-61.safetensors17.1 GB
• model-29-of-61.safetensors17.1 GB
• model-30-of-61.safetensors17.1 GB
• model-31-of-61.safetensors17.1 GB
• model-32-of-61.safetensors17.1 GB
• model-33-of-61.safetensors17.1 GB
• model-34-of-61.safetensors17.1 GB
• model-35-of-61.safetensors17.1 GB
• model-36-of-61.safetensors17.1 GB
• model-37-of-61.safetensors17.1 GB
• model-38-of-61.safetensors17.1 GB
• model-39-of-61.safetensors17.1 GB
• model-40-of-61.safetensors17.1 GB
• model-41-of-61.safetensors17.1 GB
• model-42-of-61.safetensors17.1 GB
• model-43-of-61.safetensors17.1 GB
• model-44-of-61.safetensors17.1 GB
• model-45-of-61.safetensors17.1 GB
• model-46-of-61.safetensors17.1 GB
• model-47-of-61.safetensors17.1 GB
• model-48-of-61.safetensors17.1 GB
• model-49-of-61.safetensors17.1 GB

הרישיון

הרישיון הרשמי מוגדר כ־other, ובמאגר עצמו מצוין רישיון מסוג מודיפייד MIT. מאחר שמדובר בגרסה מותאמת ולא ברישיון קוד פתוח סטנדרטי לגמרי, חובה לקרוא את קובץ התנאים המלא בגיטהאב לפני שמשלבים אותו במוצר מסחרי, כדי לוודא שאין מגבלות על שימוש מסחרי או היקף משתמשים.

הרישיון המלא בעמוד המודל ↗