GPT
הוספת כלי
S

stablecode-completion-alpha-3b-4k

קוד פתוח

stabilityaiapache-2.02023-08-07

  • transformers
  • pytorch
  • safetensors
  • gpt_neox
  • text-generation

מודל השלמת קוד קומפקטי שמיועד להרצה מקומית בלי לבלוע זיכרון עבודה ענק. הוא מתאים למי שרוצה השלמות שורה או בלוקים בלי לשלוח קוד פנימי לשרתים חיצוניים.

  • 3.3Bפרמטרים
  • 4,096טוקנים בהקשר
  • 11.3 GBמשקל הקבצים
  • 464הורדות בחודש

מה זה

מדובר במודל שנועד למטרה צרה מאוד, השלמת קוד של שורה אחת או מספר שורות רציפות. הוא אומן על 300 מיליארד טוקנים מתוך המאגר של starcoder-data, שמרכז שפות תכנות פופולריות לפי הסקרים של סטאק אוברפלו. המבנה שלו מבוסס על ארכיטקטורת GPT-NeoX עם שימוש בטוקנייזר של סטארקודר.

הייחוד כאן הוא השילוב בין גודל של כ־3.3 מיליארד פרמטרים לחלון הקשר של 4,096 טוקנים. במקום להחזיק מפלצת כבדה של עשרות מיליארדי פרמטרים, מקבלים מודל ממוקד שמתאים לרוץ לצד סביבת הפיתוח ולאכול פחות משאבים, אם כי אין כאן מדדי ביצועים רשמיים שמוכיחים עליונות מול מודלים אחרים בגודל הזה.

מתאים ל

  • השלמת קוד מקומית ב־IDE

    חיבור לעורכי קוד כדי להציע שורות המשך ישירות תוך כדי הקלדה בלי להוציא קוד מהרשת.

  • פיתוח בסביבה מבודדת

    הרצה על שרתים פנימיים ללא גישה לאינטרנט בארגונים שמחייבים שמירה קפדנית על סודיות.

  • אימון המשך על בסיס קוד פנימי

    בסיס קל יחסית להתאמה אישית על מאגרי קוד פרטיים בזכות רישיון חופשי ומשקל קטן.

איפה זה נופל

זהו שחרור אלפא ישן מאוגוסט 2023, והוא נועד להשלמת קוד בלבד ולא לצ'אט, להוראות בשפה חופשית או להסבר קוד. היוצרים לא סיפקו שום מבחני ביצועים שמראים את איכות הפלט, וממליצים להשתמש בתוסף מיוחד כדי לבדוק ייחוס של קוד מועתק מהאימון.

אותה משפחה

stablecode-completion-alpha יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

stablecode-completion-alpha-3b272

שאלות
נפוצות

אפשר לתת לו משימות תכנות בעברית או באנגלית?

לא, הוא לא אומן לעקוב אחרי הוראות של משתמש. הוא רק מנחש את הטוקנים הבאים ברצף הקוד שסיפקתם לו.

האם המודל עלול לפלוט קוד שמוגן בזכויות יוצרים?

כן, המפתחים מציינים במפורש שכדאי להשתמש בתוספים שמזהים התאמה למאגר האימון. מכיוון שהוא אומן על קוד פתוח, הוא עשוי לשחזר קטעים מוכרים כמעט במדויק.

איך מריצים

במשקל כולל של כ־11.3 גיגה-בייט, תצטרכו כרטיס מסך עם לפחות 16 גיגה זיכרון כדי לטעון אותו ישירות בדיוק המקורי בלי להיתקע. ההרצה נעשית דרך ספריית transformers בפייתון עם תמיכה ב־CUDA, כשהקריאה דורשת trust_remote_code.

אם אתם לא חייבים פרטיות מלאה של הקוד המקומי שלכם, עדיף להשתמש במודל גדול יותר דרך שירות ענן. הרצה מקומית של המודל הזה שווה את המאמץ רק כשיש לכם GPU ייעודי פנוי וצורך קשיח בשמירה על הקוד בתוך המכונה.

from transformers import pipeline

pipe = pipeline("text-generation", model="stabilityai/stablecode-completion-alpha-3b-4k")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 11.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להפיץ אותו ולהטמיע אותו במוצרים פנימיים או חיצוניים, בכפוף לשמירה על תנאי הרישיון ומתן קרדיט. אין מגבלה על קוד שנוצר בעזרתו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗