GPT
הוספת כלי
S

stablecode-completion-alpha-3b

קוד פתוח

stabilityaiapache-2.02023-07-31

  • transformers
  • pytorch
  • gpt_neox
  • text-generation
  • causal-lm

מודל השלמת קוד קומפקטי שיודע לקבל הקשר ארוך של 16 אלף טוקנים. הוא מתאים למי שרוצה להריץ שירות השלמה מקומי בלי לשלוח קבצים לרשת.

  • 16,384טוקנים בהקשר
  • 13.2 GBמשקל הקבצים
  • 272הורדות בחודש
  • 119לייקים

מה זה

מדובר במודל שפותח כדי להשלים שורות קוד בודדות או בלוקים שלמים, בהתבסס על שפות הפיתוח המובילות מסקר המפתחים של סטאק אוברפלו ל־2023. הוא נבנה על בסיס נתונים של starcoder-data ואומן בתהליך דו שלבי, שבו הרחיבו את אורך ההקשר מארבעת אלפים טוקנים ל־16,384 טוקנים.

היתרון שלו על פני מודלים קטנים אחרים הוא היכולת לראות פרויקט רחב יותר או קבצים ארוכים בתוך הזיכרון שלו בזמן העבודה, ולא רק את השורות המיידיות שמעל הסמן. הוא משתמש בטוקנייזר של StarCoder עם מילון של 49 אלף מונחים, מה ששומר על יעילות בעיבוד תחביר של שפות תכנות פופולריות.

מתאים ל

  • השלמת קוד מקומית ב־IDE

    חיבור ישיר לעורך הקוד דרך תוספים תואמים לצורך השלמת שורות בזמן אמת בלי להוציא מידע מהמחשב.

  • עבודה עם קבצים גדולים

    חלון הקשר של 16 אלף טוקנים מאפשר להזין קבצי קוד ארוכים במיוחד כבסיס להשלמה מדויקת.

  • סביבות פיתוח מנותקות רשת

    הגודל הקטן יחסית והרישיון הפתוח מתאימים לחברות שדורשות שהקוד יישאר בתוך הרשת הפנימית.

איפה זה נופל

זהו מודל אלפא שמיועד להשלמת קוד בלבד, ולא מודל צ'אט שמבין שפה חופשית או עונה על שאלות. הוא עלול לפלוט קטעי קוד מתוך סט האימון שלו, ולכן היוצרים עצמם ממליצים להשתמש בתוסף של האגינג פייס כדי לזהות העתקות ולתת קרדיט למקורות. מעבר לכך, המודל אינו מיועד למשימות עם סיכון כלכלי או פיזי, ויש לבדוק את התחביר שהוא מייצר לפני שמריצים אותו בסביבה חיה.

אותה משפחה

stablecode-completion-alpha יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

stablecode-completion-alpha-3b-4k464

שאלות
נפוצות

האם אפשר להשתמש בו כמו ב־ChatGPT כדי לדבר על הקוד?

לא. המודל אומן כמנוע השלמה בלבד שממשיך את הטקסט שקיבל. אם תכתבו לו שאלה בהערה, הוא פשוט ינסה לנחש את שורות הקוד הבאות ולא יענה בהסבר מילולי.

כמה זיכרון וידאו צריך בפועל כדי לעבוד איתו?

המשקל של המודל בזיכרון הוא סביב 6 עד 8 ג'יגה בייט בפורמט חצי דיוק. עם זאת, ניצול מלא של חלון ההקשר הארוך ידרוש כרטיס עם 16 ג'יגה זיכרון כדי לא לקרוס מחוסר מקום.

איך מריצים

המשקל הכולל של הקבצים עומד על 13.2 ג'יגה בייט בפורמט float16, כך שתצטרכו כרטיס מסך עם לפחות 16 ג'יגה זיכרון כדי לטעון אותו ולהריץ הסקה בצורה חלקה, במיוחד אם מנצלים את מלוא חלון ההקשר.

ההרצה נעשית דרך ספריית transformers הרגילה בפייתון, אך מחייבת הפעלה של trust_remote_code בזמן הטעינה. אם אין לכם חומרה מתאימה מקומית, עדיף להשתמש בפתרון ענן מנוהל או במודלים דרך שירותים חיצוניים, כי גרירה של חלון הקשר מלא על מעבד רגיל תהיה איטית מדי לשימוש שוטף בעורך הקוד.

from transformers import pipeline

pipe = pipeline("text-generation", model="stabilityai/stablecode-completion-alpha-3b")
print(pipe("שלום"))

הקבצים

8 קבצים במאגר, 13.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0 מלא. אפשר להשתמש בו לצרכים מסחריים, לשנות אותו, לשלב אותו במוצרים סגורים ולהפיץ אותו בחופשיות. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗