Kimi-K2.5-GGUF

קוד פתוח

unslothother2026-01-27

transformers
gguf
unsloth
kimi_k25
endpoints_compatible

גרסת GGUF של מודל ענק שמיועד למשימות חשיבה ותכנות מורכבות. הוא מציע יכולות סוכנים מתקדמות למי שמחזיק שרת ייעודי עם מאות גיגהבייט זיכרון.

15.3 TBמשקל הקבצים
5,821הורדות בחודש
265לייקים

מה זה

מדובר במודל MoE עצום שמכיל טריליון פרמטרים בסך הכול, מתוכם 32 מיליארד מופעלים בכל טוקן דרך שמונה מומחים נבחרים ומומחה משותף אחד. הוא מגיע עם חלון הקשר של 256 אלף טוקנים וארכיטקטורת MLA, ומשלב מצבי עבודה של מענה מיידי או תהליך חשיבה מעמיק.

הייחוד שלו מתבטא בעיקר ביכולות סוכנים וחיפוש. המודל יודע לחלק משימה גדולה לתת משימות במבנה שמכונה בכרטיס Swarm, מה שמקפיץ את הדיוק שלו במבחני גלישה מורכבים כמו BrowseComp מציון של שישים נקודה שש לציון של שבעים ושמונה נקודה ארבע. במבחני קוד כמו SWE-Bench הוא מגיע לציון של שבעים ושש נקודה שמונה, תוצאה שמציבה אותו בשורה אחת עם המודלים המובילים בעולם בסגירת באגים אמיתיים ממאגרים.

בנוסף, הוא מציג שילוב של כלים בפתרון שאלות קשות. במבחן HLE המודל מזנק מציון של שלושים נקודה אחת בהסקה ישירה לציון של חמישים נקודה שתיים ברגע שמאפשרים לו להשתמש בכלים חיצוניים, שזה פער מהותי ביחס להרצה רגילה.

מתאים ל

פתרון בעיות מתמטיקה
המודל קיבל 96.1 במבחן AIME 2025 במצב חשיבה, ומספק פתרונות מפורטים ומדויקים לשאלות קשות.
סוכני מחקר אוטונומיים
בזכות ארכיטקטורת הסוכנים שלו הוא מגיע לציון 79 במבחן WideSearch ומפרק חיפושים מורכבים ברשת.
ניתוח מסמכים ארוכים
חלון הקשר של 256K טוקנים מאפשר להזין תיעוד טכני שלם או ספריות קוד גדולות בבת אחת.

איפה זה נופל

החיסרון המרכזי בגרסאות ה־GGUF האלה הוא היעדר מוחלט של תמיכה ביכולות הראייה. למרות שהמודל המקורי אומן על טוקנים של תמונה ווידאו וכולל רכיב MoonViT, כאן התמיכה בתמונות לא קיימת כרגע לפי עמוד המודל. מי שבונה על פענוח ממשקים או קריאת מסמכים יתאכזב.

בנוסף, המודל מתקשה מאוד במבחני ZeroBench, שם הוא מקבל ציון של תשע בלבד בלי כלים ואחד עשרה עם כלים. מהירות הריצה המקומית הופכת אותו ללא מעשי למוצרים שדורשים זמן תגובה מהיר, אלא אם כן משקיעים עשרות אלפי שקלים בחומרה מתאימה.

שאלות
נפוצות

האם אפשר להריץ אותו על מחשב נייד או תחנת עבודה ביתית?

לא. המודל דורש מינימום של 240 גיגהבייט זיכרון רק בשביל הגרסאות הקטנות ביותר, וביצועי הריצה עם מעט VRAM עומדים על כחמישה טוקנים לשנייה. מחשב רגיל יקרוס מיד מחוסר זיכרון.

האם גרסת ה־GGUF הזו יכולה לנתח תמונות ווידאו?

כרגע לא. למרות שהמודל הבסיסי כולל יכולות מולטימודליות ורכיב MoonViT, כרטיס המודל מציין במפורש שאין תמיכה בראייה בגרסה הזו.

איך מריצים

כדי להריץ אפילו את הגרסאות המכווצות ביותר של המודל, צריך לפחות 240 גיגהבייט של זיכרון אחוד או שילוב של RAM וכרטיסי מסך. עם שילוב של כרטיס עם 16 גיגהבייט VRAM ומחשב עם 256 גיגהבייט זיכרון מערכת, הכרטיס מדווח על קצב איטי של כחמישה טוקנים לשנייה בלבד.

אם אתם רוצים איכות מלאה, צריך לכוון לגרסאות של 2 ביט XL ומעלה, שדורשות כבר יותר מ־380 גיגהבייט זיכרון משולב. לרוב המוחלט של המפתחים אין גישה לחומרה כזו על השולחן או במשרד, ולכן כלכלית ומעשית עדיף לצרוך אותו דרך ספקי API חיצוניים במקום לשכור שרת ייעודי שעולה הון בכל שעה.

ollama run hf.co/unsloth/Kimi-K2.5-GGUF:Q5_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

IQ4_NL50.0 GB Q5_K_M50.0 GB Q5_K_M50.0 GB Q5_K_XL50.0 GB Kimi-K2.5-UD-TQ1_0-00004-of-0000550.0 GB Kimi-K2.5-UD-TQ1_0-00001-of-0000549.9 GB Q5_K_XL49.9 GB Q5_K_XL49.9 GB

הקבצים

367 קבצים במאגר, 15.3 TB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון בעמוד מסומן בתור other, ובכרטיס עצמו מופיע קישור לרישיון מסוג Modified MIT של חברת Moonshot AI. זה אומר שלא מדובר ברישיון קוד פתוח רגיל, ויש תנאים או הגבלות מיוחדות שהיוצרים הוסיפו על השימוש. לפני שמשלבים אותו במוצר מסחרי חייבים לקרוא את קובץ הרישיון המקורי כדי להבין אם מותר להפיץ אותו ללקוחות.

הרישיון המלא בעמוד המודל ↗