GPT
C

codellama-playground

רץ בדפדפן

codellamaרישיון לא דווח2023-08-24

  • gradio

ממשק פשוט להרצת הנחיות קוד ישירות מול מודל ייעודי. מתאים למפתחים שרוצים לבדוק השלמות או יצירת פונקציות בלי להוריד משקלים כבדים למחשב.

  • הורדות בחודש
  • 250לייקים

מה זה

הממשק מציג תיבת טקסט אחת להזנת הוראות ובקשות קוד, ותיבת פלט שמציגה את התוצאה כבלוק קוד של שלושים שורות. מתחת למכסה המנוע הקוד מתחבר ללקוח שמריץ את המודל codellama/CodeLlama-13b-hf. מדובר בגרסת 13 מיליארד פרמטרים של המודל, שמיועדת למשימות תכנות שונות ומחזירה טקסט או קוד בהתאם להנחיה.

לצד תיבות הטקסט מוגדרים בממשק כפתור ייעודי לשיתוף והגדרות מתקדמות שמאפשרות לכוונן את התנהגות המודל. בין היתר אפשר לשנות שם את הטמפרטורה, את מספר הטוקנים המרבי שייווצרו, וכן מדדי top_p וקנס על חזרתיות. הממשק מכיל גם דוגמאות מובנות להרצה מהירה, אך הן אינן נשמרות במטמון ורצות מחדש בכל לחיצה.

מתאים ל

  • יצירת פונקציות שלמות

    כותבים הנחיה מילולית ומקבלים בלוק קוד מוכן שמתאים להגדרה שביקשתם.

  • בדיקת פרמטרים למודל

    משנים ערכי טמפרטורה וקנס חזרתיות כדי לראות איך המודל מגיב לשינויים.

  • השלמת קטעי קוד

    מדביקים חלקי פונקציות כדי לבחון איך המודל מסיים את המימוש.

איפה זה נופל

האפליקציה משתמשת בגרסת הבסיס של המודל ולא בגרסת שיחה או תיקון שגיאות אינטראקטיבי, כך שאי אפשר לנהל איתה דיאלוג מתמשך על הקוד שנכתב. היא מקבלת קלט יחיד ופולטת קוד, בלי יכולת להריץ אותו בפועל, לבדוק שגיאות קומפילציה או לחבר קבצים מרובים מהפרויקט שלכם. הדוגמאות לא נשמרות בזיכרון מטמון, כך שכל בדיקה דורשת המתנה מחדש.

שאלות
נפוצות

האם השימוש בממשק עולה כסף?

הגישה לממשק פתוחה ואינה דורשת תשלום או הזנת אמצעי אשראי. אפשר להשתמש בו ישירות בדפדפן כל עוד המרחב נמצא במצב פעיל.

כמה זמן לוקח לקבל תשובה?

האפליקציה רצה על חומרת מעבד בסיסית בלבד, ולכן ייצור קוד עשוי להימשך כמה שניות ואף יותר. הזמן המדויק תלוי באורך הקוד המבוקש ובערך שנקבע בסליידר הטוקנים.

האם האפליקציה שומרת את הקוד שמזינים בה?

אין בממשק תיעוד על שמירה מקומית של קבצים, אך הקלט נשלח לשרת שמפעיל את לקוח הטקסט לצורך עיבוד. מאחר שלא דווח רישיון או פירוט פרטיות, מומלץ לא להזין קוד רגיש.

האם אפשר להריץ את זה באופן מקומי?

הקוד עצמו בנוי בעזרת ספריית gradio סטנדרטית ופונה למודל codellama/CodeLlama-13b-hf. אפשר לשכפל את הקוד, אך כדי להריץ את המודל עצמו מקומית תצטרכו חומרה מתאימה שתומכת ב־13 מיליארד פרמטרים.

איך משתמשים

מקלידים את ההנחיה בתיבת ההוראות ולוחצים על כפתור Generate כדי לקבל את הקוד בתיבת הפלט. מי שרוצה שליטה עדינה יותר יכול לפתוח את תפריט ההגדרות המתקדמות ולשנות את הסליידרים של הטמפרטורה או אורך הפלט לפני השליחה.

האפליקציה מוגדרת על חומרת מעבד בסיסית, כלומר cpu-basic. חישוב על מעבד כזה אומר שזמני התגובה ליצירת קוד ארוך עלולים להיות אטיים בהשוואה להרצה על מעבדים גרפיים חזקים, במיוחד כשמבקשים כמות גדולה של טוקנים חדשים.

הרישיון

הרישיון לא דווח בעמוד של האפליקציה. במצב כזה תנאי השימוש המסחריים, זכויות היוצרים על הקוד שנוצר והאופן שבו נשמר המידע שנשלח בבקשות אינם מוגדרים בבירור.

הרישיון המלא ב־Hugging Face ↗