GPT
הוספת כלי
W

WizardCoder-Python-13B-V1.0

קוד פתוח

WizardLMTeamllama22023-08-26

  • transformers
  • pytorch
  • llama
  • text-generation
  • code

גרסה ממוקדת פייתון של לאמה 2 שמתאימה למי שרוצה להריץ עוזר כתיבת קוד מקומי על חומרה סבירה, בלי להסתמך על שרתי ענן חיצוניים.

  • 16,384טוקנים בהקשר
  • 24.2 GBמשקל הקבצים
  • 91הורדות בחודש
  • 109לייקים

מה זה

זהו מודל ייעודי לכתיבת קוד בפייתון, שמבוסס על ארכיטקטורת לאמה 2 ועבר אימון בשיטת אבולושן אינסטראקט. הוא מקבל הוראות טקסטואליות ומחזיר פונקציות, תיקוני באגים או סקריפטים מלאים.

במבחן HumanEval הוא קיבל ציון של 64.0 במדד pass@1. בפועל זה אומר שהוא מצליח לפתור מכה ראשונה קצת פחות משני שלישים ממשימות התכנות הבסיסיות שנבדקו. הוא עוקף את גרסת ה־7B של אותה סדרה, שקיבלה 55.5, וגם את דגם ה־15B הישן יותר שנשען על ארכיטקטורה אחרת. עם זאת, הוא נשאר מאחורי גרסת ה־34B שרשמה 73.2, ומאחורי מודלים מתקדמים וגדולים יותר.

מתאים ל

  • השלמת פונקציות בפייתון

    הוא מיועד לכתיבת קטעי קוד מוגדרים מראש לפי תיאור מילולי מדויק.

  • עבודה בסביבה מבודדת

    מתאים לצוותים שלא יכולים להוציא קוד קנייני החוצה וחייבים הרצה מקומית.

  • ניתוח ותיקון שגיאות

    מספק בדיקה ראשונית של סקריפטים ומציע תיקונים לתחביר וללוגיקה בסיסית.

איפה זה נופל

הנתונים בדף מציגים ציון עבור HumanEval בלבד, ואין שום תוצאות רשמיות על HumanEval-Plus או MBPP. זה מצביע על בדיקה מצומצמת שלא מעידה בהכרח על עמידות מול מקרי קצה ובאגים נסתרים. בנוסף, חלון ההקשר מוגבל ביחס לכלים חדשים, והמודל מכוון לפייתון, כך שהוא לא יתאים לפרויקטים שמשלבים שפות אחרות.

אותה משפחה

WizardCoder-Python יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

WizardCoder-Python-34B-V1.0203

שאלות
נפוצות

האם הוא יודע לכתוב קוד בשפות אחרות?

האימון והבדיקות המוצגות בדף מתמקדים בפייתון. הוא עשוי להכיר תחביר של שפות אחרות מהאימון המקורי, אבל הביצועים שם לא נמדדו ולא מובטחים.

איזה כרטיס מסך צריך בשביל להריץ אותו?

הקבצים שוקלים 24.2 ג'יגה בייט בדיוק המקורי. כדי לטעון ולהריץ אותו בלי שגיאות זיכרון תצטרכו כרטיס עם 24 ג'יגה זיכרון וידאו ומעלה, או לחלופין לבצע כימות של המשקלים.

איך מריצים

המשקל הגולמי של הקבצים עומד על 24.2 ג'יגה בייט בדיוק של float16, מה שמחייב כרטיס מסך עם לפחות 24 ג'יגה זיכרון כדי לטעון אותו כמו שהוא. אפשר להריץ אותו עם ספריית transformers לפי תבנית ההנחיה של הפרויקט, תוך שימוש בטוקן עצירה של סגירת רצף.

אם יש לכם כרטיס מקומי חזק מספיק ואתם חייבים לשמור על פרטיות הקוד, ההרצה העצמאית הגיונית. אם אין לכם את החומרה הזו בהישג יד, פנייה ל־API חיצוני של שירות אחר תחסוך את עלויות החומרה וההתעסקות בהגדרות סביבה.

from transformers import pipeline

pipe = pipeline("text-generation", model="WizardLMTeam/WizardCoder-Python-13B-V1.0")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 24.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון llama2 של מטא. הרישיון מאפשר שימוש מסחרי בכפוף לתנאי השימוש המקוריים של מטא, הכוללים מגבלת משתמשים חודשית גבוהה מאוד ומדיניות שימוש מקובל. שווה לבדוק את פרטי הרישיון המלאים באתר של מטא לפני שילוב שלו במוצר מסחרי שפונה לקהל רחב.

  • שימוש מסחרי עד 700 מיליון משתמשים
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא בעמוד המודל ↗