GPT
הוספת כלי
K

Kimi-Dev-72B

קוד פתוח

moonshotaimit2025-06-16

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • code

מודל קוד פתוח שמכוון ישירות לפתרון תקלות תוכנה אמיתיות ומבוסס על חיזוקים מול בדיקות קוד שעוברות. הוא עוקף מודלים פתוחים אחרים במבחני פיתוח תוכנה מורכבים.

  • 73Bפרמטרים
  • 131,072טוקנים בהקשר
  • 135 GBמשקל הקבצים
  • 3,136הורדות בחודש

מה זה

מדובר במודל שמבוסס על ארכיטקטורת Qwen2 עם כמעט 73 מיליארד פרמטרים, אבל עם התמחות מאוד ברורה בפיתוח תוכנה ולא בכתיבת שירים. moonshotai אימנו אותו באמצעות למידת חיזוק ישירות בתוך סביבות דוקר, כשהתגמול ניתן לו אך ורק אם הטלאי שיצר גרם לכל מערך הבדיקות של המאגר לעבור בהצלחה.

התוצאה של תהליך האימון הזה היא ציון של 60.4 אחוזים בבנצ'מרק של SWE-bench Verified. המספר הזה אומר שבשישה מתוך עשרה מקרים שבהם נותנים לו בעיה אמיתית מתוך ריפו קיים, הוא מצליח לאתר את הקבצים הנכונים, לשנות את הקוד, ולגרום לטסטים של הפרויקט להפוך לירוקים בלי לשבור דברים אחרים בדרך.

מתאים ל

  • פתרון באגים אוטומטי

    יצירת טלאים לקוד קיים על בסיס דיווחי שגיאות ובדיקות יחידה שנכשלו בפרויקט.

  • סוכן פיתוח עצמאי

    הרצה בתוך מכולה מבודדת לביצוע שינויים עמוקים במאגרי קוד מורכבים.

  • תחזוקת ספריות קוד

    סגירת כרטיסים ישנים ועדכון תלויות שדורשות בדיקה מול מערך טסטים מלא.

איפה זה נופל

הנתונים הזמינים מציגים רק תוצאה במבחן אחד של פתרון תקלות, והדוח הטכני המלא טרם שוחרר. אי אפשר לדעת איך הוא מתמודד עם שפות תכנות פחות נפוצות, איך ביצועי השיחה הכלליים שלו, או אם הוא סובל מהזיות במשימות שאינן תיקון באגים מוגדרים. בנוסף, חלון הקשר עצום של 131 אלף טוקנים על מודל בגודל כזה ידרוש משאבי מחשוב מפלצתיים בפועל, ולא בטוח שביצועי התיקון נשמרים כשההקשר מלא עד הקצה.

שאלות
נפוצות

האם אפשר להריץ את המודל הזה על מחשב פיתוח רגיל?

לא. המודל שוקל 135 ג'יגה בייט בפורמט המקורי ודורש שרת עם מספר כרטיסי מסך מקצועיים כדי לעבוד. גם עם צמצום משמעותי, מחשב נייד חזק לא יחזיק 73 מיליארד פרמטרים.

האם המודל מתאים לשיחה כללית ועזרה בכתיבת טקסטים?

הוא נבנה ואומן ספציפית למשימות הנדסת תוכנה ותיקון תקלות בסביבות קוד. הוא יכול לייצר טקסט, אבל שימוש בו לעוזר כללי הוא בזבוז משאבים מול מודלים שמיועדים לשיחה.

איך מריצים

כדי להריץ אותו אצלכם בדיוק המקורי צריך חומרה כבדה מאוד. המשקל שלו בפורמט bfloat16 תופס 135 ג'יגה בייט של קבצים, מה שמחייב לפחות שני כרטיסי A100 או H100 עם 80 ג'יגה זיכרון רק כדי לטעון אותו, ועוד זיכרון אם רוצים לנצל את חלון ההקשר המלא.

אם אין לכם שרת ייעודי כזה פנוי בחברה, אין טעם לנסות להריץ אותו על תחנת עבודה רגילה בלי קוונטיזציה אגרסיבית. במקרים שבהם המידע לא סודי ואין חובה רגולטורית להריץ הכל מקומית, עדיף להמתין לשירותי ענן שיציעו גישה אליו דרך ממשק פשוט במקום לתחזק אשכול שרתים יקר.

from transformers import pipeline

pipe = pipeline("text-generation", model="moonshotai/Kimi-Dev-72B")
print(pipe("שלום"))

הקבצים

98 קבצים במאגר, 135 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא MIT, וזה אחד הרישיונות הכי מתירניים שיש בעולם התוכנה. מותר לכם להוריד את הקוד והמשקלים, לשנות אותם, להטמיע אותם בתוך מוצרים מסחריים סגורים ולמכור גישה אליהם, בלי צורך לחשוף את הקוד שלכם ובלי לשלם תמלוגים לאף אחד.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗