WizardCoder-Python-13B-V1.0-GGUF

מה זה

מדובר במודל שפת תכנות בגודל שלוש עשרה מיליארד פרמטרים מבית וויזארד אל אם, שנסגר בפורמט ג׳י ג׳י יו אף בידי דה בלוק כדי לאפשר הרצה על מעבדים רגילים וכרטיסי מסך ביתיים. הייעוד המרכזי שלו הוא כתיבה והשלמת קוד פייתון, והוא מבוסס על תבנית הנחיות פשוטה שמתאימה לקבלת משימות קונקרטיות והחזרת קוד פועל.

במדד יומן אוול המודל הגיע לציון שישים וארבעה אחוזים, ובמדד אמ בי פי פי לחמישים וחמישה נקודה שש. המשמעות בשטח היא שברוב משימות הפייתון הנפוצות הוא מפיק קוד שעובר בהרצה ראשונה ללא תיקונים ידניים, פער ניכר מול גרסת שבעה מיליארד פרמטרים שעצרה בחמישים וחמישה אחוזים בלבד ביורן אוול.

הוא לא מיועד לשיחה חופשית או פילוסופיה, אלא ממוקד כולו בלוגיקה של תוכנה. השילוב בין גודל בינוני לדיוק גבוה הופך אותו לאופציה מעשית לפיתוח עצמאי שבו אי אפשר להסתמך על ענן.

מתאים ל

• השלמת קוד מקומית

  מריץ פונקציות ומשלים בלוקים בפייתון ישירות בסביבת הפיתוח ללא תלות ברשת.

• ייצור בדיקות יחידה

  מייצר טסטים לקוד פייתון קיים על בסיס ציון יומן אוול הגבוה שלו.

• סקירת קוד ואיתור באגים

  מזהה שגיאות לוגיות ותחביריות קצרות בקטעי פונקציות מבודדים.

איפה זה נופל

המודל אומן באופן מובהק על פייתון, ולכן לא תקבלו תוצאות טובות בשפות תכנות אחרות. בנוסף, חלון ההקשר בהגדרת ברירת המחדל עומד על ארבעת אלפים תשעים ושישה טוקנים, מה שאומר שהוא לא מסוגל לקרוא פרויקטים שלמים או קבצים ענקיים ברצף אחד. בקבצי כיול נמוכים כמו קיו שתיים המודל מייצר תחביר שגוי באופן שמחייב בדיקה ידנית קפדנית לפני כל שימוש.

אותה משפחה

WizardCoder-Python יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים קובץ בודד לתוך כלים כמו לאמה סי פי פי, אל אם סטודיו או סי טרנספורמרס בפייתון. רוב האנשים יבחרו בגרסת קיו ארבע קיי אם ששוקלת כשבעה נקודה שמונה ג׳יגה בייט ודורשת קצת יותר מעשרה ג׳יגה בייט של זיכרון עבודה אם מריצים הכל על המעבד, או כרטיס מסך עם שמונה עד עשרה ג׳יגה בייט וי ראם להרצה מלאה ומהירה.

אם יש לכם זיכרון פנוי אפשר לקחת את קיו חמש או קיו שש לדיוק עדיף, אבל אין טעם לגעת בגרסת שתי ביט שנחתכת מדי באיכות הקוד. אם אין לכם חומרה ייעודית בכלל והמחשב מוגבל, עדיף לפנות למודל מסחרי בענן דרך קריאות רשת במקום להמתין שניות ארוכות לכל שורת קוד שנוצרת במעבד.

ollama run hf.co/TheBloke/WizardCoder-Python-13B-V1.0-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

18 קבצים במאגר, 91.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• wizardcoder-python-13b-v1.0.Q8_0.gguf13.8 GB
• wizardcoder-python-13b-v1.0.Q6_K.gguf10.7 GB
• wizardcoder-python-13b-v1.0.Q5_K_M.gguf9.2 GB
• wizardcoder-python-13b-v1.0.Q5_0.gguf9.0 GB
• wizardcoder-python-13b-v1.0.Q5_K_S.gguf9.0 GB
• wizardcoder-python-13b-v1.0.Q4_K_M.gguf7.9 GB
• wizardcoder-python-13b-v1.0.Q4_K_S.gguf7.4 GB
• wizardcoder-python-13b-v1.0.Q4_0.gguf7.4 GB
• wizardcoder-python-13b-v1.0.Q3_K_L.gguf6.9 GB
• wizardcoder-python-13b-v1.0.Q3_K_M.gguf6.3 GB
• wizardcoder-python-13b-v1.0.Q3_K_S.gguf5.7 GB
• wizardcoder-python-13b-v1.0.Q2_K.gguf5.4 GB
• README.md26.7 KB
• LICENSE.txt7.0 KB
• USE_POLICY.md4.8 KB
• .gitattributes2.4 KB
• Notice112 B
• config.json29 B

הרישיון

הרישיון הוא לאמה שתיים. מותר להשתמש בו לצרכים מסחריים ופרטיים, אבל כפוף לתנאים של מטא, כולל מגבלות על שימוש בתוצרים לאימון מודלים מתחרים ומגבלת משתמשים לחברות ענק.

• שימוש מסחרי עד 700 מיליון משתמשים
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗