codellama-13b-chat

מה זה

אתם כותבים הודעה בתיבת הטקסט, לוחצים על שליחה ומקבלים תשובת טקסט או קוד מהמודל. מאחורי הקלעים רץ codellama/CodeLlama-13b-Instruct-hf, גרסת 13 מיליארד פרמטרים שמיועדת למעקב אחרי הוראות בקוד. בתיאור של הדף מופיעה סתירה מוזרה, כי הטקסט מתייחס בכלל ל־Llama-2-13b-chat הרגיל, אבל הקוד טוען את מודל הקוד.

הממשק כולל הגדרות מתקדמות שמאפשרות לשנות ידנית את הנחיית המערכת, את אורך התשובה המרבי ואת ערכי הטמפרטורה והדגימה. יש כאן גם כפתורי ביטול, ניקוי היסטוריה וניסיון חוזר, יחד עם דוגמאות מוכנות שנטענות ישירות לתוך השיחה.

מתאים ל

• שכפול קוד לתשתית פרטית

  מעתיקים את המרחב לחשבון אישי כדי לתקן את שגיאת ההרצה ולהרים מודל קוד על חומרה משלכם.

• בדיקת פרמטרים למודל

  משתמשים בהגדרות המתקדמות כדי לבחון איך טמפרטורה וטוקנים משפיעים על פלט של Code Llama 13B.

• צפייה בדוגמאות פרומפטים

  בוחנים את הדוגמאות המובנות בממשק כדי לראות איך להנחות את המודל לכתוב קוד בצורה מדויקת.

איפה זה נופל

הבעיה המיידית היא שהמרחב פשוט שבור ולא מתפקד. מעבר לזה, הקוד מגדיר חסימה שזורקת שגיאה אם היסטוריית השיחה חורגת ממכסת טוקנים מוגדרת, מה שמחייב מחיקה של כל השיחה מהתחלה. יש גם בלבול מובנה בין התיעוד למימוש, כך שקשה לדעת בלי בדיקת קוד מעמיקה אם מקבלים מענה ממודל קוד ייעודי או ממודל שיחה כללי.

איך משתמשים

כרגע אי אפשר להריץ את ההדגמה הזאת בכלל בדפדפן. הסטטוס שלה מוגדר כשגיאת זמן ריצה, כך שהשרת פשוט לא עולה. אם היא הייתה עובדת, התשתית מבוססת על מאיץ a10g-small שמספק בדרך כלל קצב תגובה מהיר, אבל כרגע לחיצה על שליחה לא תניב תוצאה. הקוד כולל כפתור לשכפול המרחב, שמאפשר להעתיק אותו לחשבון פרטי אם רוצים לנסות להרים אותו עצמאית.

הרישיון

סוג הרישיון מוגדר כאחר. הקוד מציג הפניה לרישיון בתחתית העמוד ומבוסס על תנאי השימוש המקוריים של משפחת Llama מבית מטא. המשמעות היא שחלות עליכם הגבלות השימוש של המודל המקורי, במיוחד אם אתם משכפלים את הקוד לשימוש עצמאי.

הרישיון המלא ב־Hugging Face ↗