GPT
הוספת כלי
K

unsloth/Kimi-K3

קוד פתוח

unslothother2026-07-27

  • transformers
  • safetensors
  • kimi_k3
  • feature-extraction
  • compressed-tensors

מודל ענק במשקל של כמעט שלושה טריליון פרמטרים שרץ בתצורת תערובת מומחים. מתאים למי שחייב מודל קוד פתוח עם ראייה, תמיכה בכלים מורכבים והקשר באורך מיליון טוקנים.

  • 2780Bפרמטרים
  • 1,048,576טוקנים בהקשר
  • 1.4 TBמשקל הקבצים
  • 464הורדות בחודש

מה זה

מדובר בארכיטקטורת Mixture of Experts שמפעילה רק 16 מתוך 896 מומחים בכל טוקן, כך שבפועל מופעלים כ־104 מיליארד פרמטרים בלבד בכל רגע. הוא משלב עיבוד תמונה וטקסט עם חלון הקשר עצום של מיליון טוקנים, ומשתמש בשכבות קשב מסוג KDA ו־Gated MLA כדי לשמור על יעילות.

במדדי ההערכה הוא מציג יכולות גבוהות במיוחד במשימות סוכן ופיתוח תוכנה. הוא מוביל במבחן SWE-Marathon עם ציון של 42 לעומת 35 של קלוד, ובמבחן הכלים MCPMark הוא מגיע ל־94.5 נקודות, מעל רוב המודלים המובילים. עם זאת, הוא לא מנצח בכל מקום, ומתחרים מובילים עדיין עוקפים אותו במשימות קוד עמוקות כמו DeepSWE ומבחני שאלות מורכבות כמו HLE.

מתאים ל

  • תפעול סוכני קוד ממושכים

    יכולת עבודה ארוכה מול טרמינל והקשר ענק לניהול פרויקטים שלמים.

  • מחקר מבוסס מקורות ענק

    קריאת מאות מסמכים ותמונות בבת אחת לתוך מיליון טוקנים.

  • הפעלת כלי שרת בפרוטוקול MCP

    ציון חריג של 94.5 במדד MCPMark שמבטיח דיוק גבוה בחיבור לכלים חיצוניים.

איפה זה נופל

במשימות חשיבה מדעיות ומתמטיקה טהורה הוא מתקשה יותר, ומקבל 23.4 נקודות בלבד ב־CritPt, משמעותית מתחת למובילים בתחום שמגיעים ליותר מ־30. גם במבחן הקוד DeepSWE הוא נופל ממתחריו עם 67.5 לעומת 73. פערים אלה מחייבים בדיקה קפדנית אם המטרה שלכם היא אוטומציה של פיתוח תוכנה מורכב או פתרון בעיות חישוביות סבוכות.

אותה משפחה

Kimi-K3 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Kimi-K3-GGUF485,433

שאלות
נפוצות

האם אפשר להריץ אותו על שרת יחיד עם שמונה כרטיסי מסך?

כנראה שלא בדיוק המלא. המשקלים לבדם תופסים 1.4 טרה־בייט, כך שיידרש אשכול של כמה שרתים עם תקשורת מהירה ביניהם, או קוונטיזציה אגרסיבית שטרם נבדקה כאן.

האם הוא כולל יכולות עיבוד של תמונות בנוסף לטקסט?

כן, המודל כולל רכיב ייעודי בשם MoonViT-V2 בגודל 401 מיליון פרמטרים, המאפשר לו לנתח תמונות לצד טקסט ישירות באותה שיחה.

איך מריצים

המשקל הגולמי של הקבצים עומד על 1.4 טרה־בייט, כך שאי אפשר להריץ אותו על שרת בודד פשוט. נדרש אשכול שרתים רציני עם כרטיסי מסך מרובים בעלי זיכרון גבוה רק כדי לטעון את כל המומחים לזיכרון, גם אם כמות הפרמטרים הפעילה נמוכה משמעותית.

אם אין לכם תשתית כבדה ויקרה שמתוחזקת היטב, עדיף בהחלט לצרוך אותו דרך שירות חיצוני או API. הרצה מקומית הגיונית רק לארגונים שחייבים שהמידע לא ייצא מהרשת הפנימית או שחוקרים את המשקלים עצמם.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="unsloth/Kimi-K3")
print(pipe("שלום"))

הקבצים

121 קבצים במאגר, 1.4 TB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון של המשקלים מוגדר כרישיון מיוחד בשם Kimi K3 License ולא קוד פתוח סטנדרטי כמו אפאצ'י או MIT. המשמעות היא שחובה לקרוא היטב את תנאי השימוש הספציפיים שהוצמדו לקבצים לפני שילוב המודל במוצר מסחרי, כדי לוודא שאין הגבלות על היקף השימוש או דרישות הפצה מיוחדות.

הרישיון המלא בעמוד המודל ↗