bigcode-playground
רץ בדפדפןbigcodeרישיון לא דווח2023-04-12
ממשק בדיקה בדפדפן להתנסות במודלים של משפחת StarCoder לכתיבת קוד. מתאים למפתחים שרוצים לבדוק השלמות קוד בלי להגדיר סביבה מקומית.
- —הורדות בחודש
- 414לייקים
מה זה
אתם בוחרים מודל מתוך תפריט נפתח שמכיל את starcoder, starcoderbase או starcoderplus, מקלידים הוראה או קטע קוד בתיבת הטקסט, ומקבלים בלוק קוד עם הפלט שנוצר. הממשק מספק דוגמאות מובנות להרצה מהירה כדי לראות איך המערכת מתמודדת עם הנחיות שונות.
מאחורי הקלעים הקוד שולח בקשות לשרת מרוחק באמצעות ספריית text-generation, כך שהחישוב הכבד לא מתבצע ישירות על השרת המארח של הממשק. יש גם הגדרות מתקדמות שמאפשרות לכוונן טמפרטורה, top-p, עונש על חזרתיות ומספר טוקנים מרבי ליצירה.
מתאים ל
- השוואת גרסאות StarCoder
בדיקת אותה הנחיה מול starcoder, starcoderbase ו־starcoderplus כדי לראות הבדלים באיכות הקוד.
- בדיקת פרמטרי יצירה
כוונון טמפרטורה וערכי ענישה על חזרתיות כדי לראות איך הם משפיעים על יציבות הפלט.
- השלמת קוד מהירה
הדבקת חתימת פונקציה או הערה כדי לבדוק איך המודל משלים את המימוש.
איפה זה נופל
הבעיה המיידית היא שהיישום תקוע במצב של RUNTIME_ERROR, כך שאי אפשר להשתמש בו כרגע בכלל. בנוסף, הוא מיועד רק להשלמת טקסט וקוד פשוטה לפי פרמטרים, ולא כולל אינטגרציה לעורכי קוד או תמיכה בשיחה מתמשכת.
שאלות
נפוצות
האם הממשק פועל כרגע בחינם?
הגישה לממשק פתוחה בחינם ללא צורך בתשלום. עם זאת, הוא נמצא כרגע במצב של תקלת ריצה ולא מאפשר להפיק תוצאות. צריך להמתין שהתחזוקה שלו תתעדכן כדי להשתמש בו.
מה קורה עם הטקסט והקוד שמזינים פנימה?
הנתונים נשלחים דרך ספריית הלקוח לשרתי היצירה של המודל כדי לייצר את הקוד. בנוסף, הממשק כולל כפתור שיתוף שמעלה קישור לפלט שנוצר. היות שלא צוין רישיון או הסכם פרטיות, לא כדאי להדביק שם קוד קנייני או מידע רגיש.
האם אפשר להריץ את הממשק מקומית במחשב שלי?
אפשר להוריד את קובץ app.py ולנסות להריץ אותו בסביבת Gradio מקומית. עם זאת, הקוד מתבסס על חיבור לשרת מרוחק באמצעות text-generation Client, ויידרש מפתח גישה מתאים לשרתי המודל. בנוסף, יש לתקן את שגיאת הריצה שקיימת כרגע בקוד המקורי.
במה הממשק הזה שונה משימוש ישיר במודל?
הממשק מספק מעטפת גרפית פשוטה עם כפתורים, תפריט לבחירת גרסה וסליידרים להגדרות כמו טמפרטורה. שימוש ישיר במודל דורש עבודה עם קוד פייתון, ניהול בקשות רשת או טעינת המשקולות באופן עצמאי. כאן מדובר בכלי תצוגה מהיר בדפדפן בלי צורך בכתיבת קוד תשתית.
איך משתמשים
בוחרים מודל, כותבים קוד או בוחרים דוגמה מוכנה, ולוחצים על כפתור Generate כדי לקבל את הפלט בתיבת הקוד. יש אפשרות לשתף את התוצאה דרך כפתור ייעודי שמציג חיווי טעינה בזמן השיתוף.
כרגע היישום מוגדר על חומרת cpu-basic בסיסית, אבל בפועל הוא לא מגיב כי הוא נמצא במצב שגיאת ריצה. עד שהיוצרים לא יתקנו את התקלה בקוד, אי אפשר להריץ בו בדיקות.
הרישיון
הרישיון של הממשק לא דווח במאגר. במצב כזה אין הרשאה מוגדרת לשימוש חוזר בקוד הממשק, ולא ברור אילו זכויות חלות על פלט שנוצר דרכו.