GPT
הוספת כלי
N

NextCoder-32B

קוד פתוח

microsoftmit2025-05-03

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • code

microsoft עומדים גם מאחורי Sho, ויש עליו סקירה כאן.

גרסה מכווננת של מיקרוסופט לעריכת קוד שמבוססת על קוון ומכוונת לביצוע שינויים מורכבים במאגרי קוד. היא מתאימה למי שרוצה ביצועים ברמה של מודלים סגורים בלי לוותר על הרצה מקומית.

  • 33Bפרמטרים
  • 32,768טוקנים בהקשר
  • 122 GBמשקל הקבצים
  • 1,988הורדות בחודש

מה זה

מיקרוסופט לקחה את מודל הבסיס של קוון והעבירה אותו כוונון ייעודי לעריכת קוד באמצעות שיטה שהם מכנים סלקט. המטרה כאן היא לא סתם להשלים פונקציה מאפס, אלא לקבל קוד קיים, להבין את ההקשר מסביב, ולבצע עריכות מדויקות בלי לשבור דברים אחרים או לאבד את היכולות הכלליות.

במדדים של עריכת קוד כמו איידר ופוליגלוט, הגרסה הזו עוקפת את מודל המקור. במבחן פוליגלוט למשל, הציון מזנק מ־16.4 במודל הבסיס ל־23.6. השיפור הזה מורגש ישירות כשמבקשים ממנו לשנות קבצים קיימים בכמה שפות, משימה שבה מודלי קוד פתוח רגילים נוטים ללכת לאיבוד.

מתאים ל

  • עריכת קוד בפרויקטים רב־לשוניים

    הוא מציג זינוק משמעותי במבחן פוליגלוט, מה שהופך אותו לבחירה טובה לשינוי ספריות שמשלבות מספר שפות.

  • סוכני עריכה אוטונומיים

    התוצאות באיידר מראות יכולת גבוהה לקבל הוראות טקסט ולתרגם אותן ישירות לשינויי קבצים.

  • אינטגרציה לתוך סביבות פיתוח

    חלון הקשר של שלושים ושניים אלף טוקנים מאפשר להזין קבצים שלמים יחד עם בדיקות ולקבל עדכון ממוקד.

איפה זה נופל

למרות השדרוג בעריכה, במבחן היומנאבאל פיקס המודל הזה דווקא רושם ירידה קלה ל־88.9 לעומת 90.2 במודל הבסיס, כך שתיקוני באגים פשוטים לא בהכרח השתפרו. בנוסף, מיקרוסופט מזהירה במפורש שהכוונון לא טיפל בבעיות אבטחה של מודל הבסיס. הוא עדיין פגיע לפרומפטים זדוניים ועלול לייצר קוד מזיק, ולכן אסור להריץ פלטים שלו ישירות בלי סביבת בדיקות מבודדת ובדיקה אנושית.

שאלות
נפוצות

האם המודל תומך בעברית?

הכרטיס מצהיר על אנגלית בלבד כשפת עבודה רשמית. אפשר להניח שיש לו הבנה בסיסית בגלל מודל הבסיס, אבל הוא אומן ונבדק על קוד והוראות באנגלית, ולכן לא מומלץ להסתמך עליו למשימות שדורשות עברית שוטפת.

מה ההבדל בינו לבין קוון המקורי?

מיקרוסופט אימנה אותו מחדש בשיטת סלקט כדי להתמקד בעריכת קבצים קיימים ולא רק ביצירה ראשונית. התוצאה היא שיפור משמעותי במשימות שינוי מורכבות, לצד ירידה קטנה מאוד בתיקוני תחביר בסיסיים.

איך מריצים

כדי להריץ מודל של שלושים ושניים מיליארד פרמטרים ששוקל מאה עשרים ושניים גיגהבייט במשקלי פלואוט שלושים ושתיים המקוריים, צריך מערך שרתים כבד עם מספר כרטיסי מסך חזקים. בפועל, כמעט אף אחד לא מריץ אותו ככה. מורידים אותו רק אם יש לכם חומרת שרתים ייעודית או שאתם מכווצים אותו לדיוק נמוך יותר כדי שייכנס לכרטיסים מקומיים.

ההרצה מתבצעת ישירות דרך ספריית טרנספורמרס, כשהמפתחים מציינים במפורש שחובה להשתמש בגרסה מעל 4.37.0 כדי שהארכיטקטורה תיטען תקין. אם אין לכם גישה למחשוב כזה, החזקת שרת פרטי בשבילו פשוט תעלה יותר מדי בהשוואה לשימוש בשירותים מנוהלים.

from transformers import pipeline

pipe = pipeline("text-generation", model="microsoft/NextCoder-32B")
print(pipe("שלום"))

הקבצים

40 קבצים במאגר, 122 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא רישיון אם־איי־טי חופשי לגמרי. מותר לקחת את המשקלים, להשתמש בהם במוצרים מסחריים, לשנות אותם ולהפיץ אותם מחדש בלי תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗