starcoder2

מה זה

אתם מזינים קטע קוד מקדים בתיבת טקסט ייעודית, ובתגובה מקבלים את המשך הקוד שנוצר על ידי המודל בחלון פלט נפרד של 40 שורות. ברירת המחדל שמחכה בממשק היא פונקציה פשוטה בשם print_hello_world.

מאחורי הקלעים רץ המודל bigcode/starcoder2-15b, גרסה של 15 מיליארד פרמטרים שנטענת בספריית transformers עם קוונטיזציה של BitsAndBytes כדי לחסוך בזיכרון. הממשק כולל גם שני מחוונים ידניים לשליטה ביצירה: טמפרטורה שמוגדרת מראש על 0.5, ואורך מקסימלי שנע בין 100 ל־1024 טוקנים, כשרמת הפתיחה עומדת על 450.

מתאים ל

• השלמת פונקציות קצרות

  כתיבת כותרת של פונקציה כמו הדוגמה בממשק וקבלת המימוש המלא שלה.

• בדיקת המודל בדפדפן

  התרשמות מהאופן שבו starcoder2-15b ממשיך תחביר של שפות תכנות שונות.

• ניסוי פרמטרים ליצירה

  משחק עם הטמפרטורה ואורך הפלט כדי לראות איך הם משפיעים על הקוד שנוצר.

איפה זה נופל

הבעיה המיידית היא שהמרחב פשוט שבור ולא מתפקד כרגע. אי אפשר להריץ עליו שום שאילתה עד שהיוצר יתקן את שגיאת הריצה.

בנוסף, הממשק מוגבל לחלוטין להשלמת קוד עיוורת לפי תחילת טקסט. אין כאן צ'אט, אין יכולת לשאול שאלות על הקוד, ואי אפשר להזין קבצים שלמים או פרויקט מורכב. ההדגמה מציגה רק תכנות בסיסי מאוד, ואינה משקפת את היכולות המלאות של המודל בסביבת פיתוח אמיתית.

איך משתמשים

בפועל אתם כותבים את הפרומפט, מכוונים את הטמפרטורה ואורך הקוד, ולוחצים על הכפתור Try StarCoder. אין צורך בהתחברות או בהרשמה.

עם זאת, המרחב נמצא כרגע במצב של תקלת ריצה, RUNTIME ERROR, כך שהוא לא באמת מגיב. מעבר לזה, הוא מוגדר על חומרת מעבד בסיסית, מה שאומר שגם אם המרחב יחזור לפעול, יצירת קוד ממודל של 15 מיליארד פרמטרים על מעבד רגיל צפויה להיות אטית במיוחד.

הרישיון

האפליקציה עצמה מפורסמת תחת רישיון MIT, שמאפשר שימוש חופשי בקוד שלה כולל שינוי והפצה. לגבי הקוד שאתם מקלידים בחלון, הוא נשלח לשרת של המרחב לצורך עיבוד, ולכן לא מומלץ להדביק שם קוד פנימי או מידע רגיש.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗