codegeex2-6b
קוד פתוחzai-orgרישיון לא דווח2023-07-19
זה מודל קוד קומפקטי שמביא יכולות פיתוח חזקות למחשבים מקומיים בלי צורך בחומרת שרתים יקרה. הוא מיועד למי שמחפש השלמת קוד דו לשונית באנגלית ובסינית עם חלון הקשר נדיב.
- 11.6 GBמשקל הקבצים
- 303הורדות בחודש
- 258לייקים
מה זה
מדובר בדור השני של מודל הקוד ממשפחת ChatGLM2, שאומן על תוספת של 600 מיליארד טוקנים של קוד. עם ששה מיליארד פרמטרים בלבד, הוא מציג תוצאות שמתחרות במודלים כבדים בהרבה. במבחן HumanEval-X הוא מגיע לדיוק של 35.9 אחוזים בהרצה ראשונה בפייתון, נתון שעוקף מודל כמו StarCoder שמחזיק 15 מיליארד פרמטרים. השיפור מורגש גם בשפות כמו ראסט, ג'אווה וסי פלוס פלוס לעומת הדור הראשון שלו.
היתרון המעשי כאן הוא חלון הקשר של 8192 טוקנים. זה אומר שהוא מסוגל לקרוא פונקציות ארוכות, לעשות השלמות שחוצות קבצים שונים ולהבין את המבנה של הפרויקט בלי לאבד את הידיים והרגליים אחרי כמה שורות.
מתאים ל
- השלמת קוד מקומית ב־IDE
רץ מקומית בגרסת 4 ביט על מחשב מפתח רגיל, אידיאלי לחברות שלא מרשות לקוד לצאת לרשת.
- תרגום קוד בין שפות
מתאים להסבת פונקציות ישנות בין שפות נתמכות כמו פייתון, סי פלוס פלוס, גו וראסט.
- ניתוח והסבר קבצים ארוכים
חלון של 8192 טוקנים מאפשר להזין קבצי קוד שלמים ולקבל פירוט באנגלית על מה הפונקציות עושות.
איפה זה נופל
למרות ההתקדמות, 35.9 אחוזי הצלחה בפייתון אומרים שברוב המקרים הקוד הראשון שייוצר עדיין ידרוש בדיקה, תיקון או התערבות ידנית. הוא לא מודל שיכול לכתוב מערכות שלמות בעצמו. מעבר לזה, התמיכה בשפות טבעיות מוגבלת לאנגלית ולסינית בלבד, כך שאין מה לבנות עליו להערות או תיעוד בעברית. כדי לקבל תוצאות מדויקות צריך להקפיד על תיוג שפת התכנות בפרומפט עצמו.
אותה משפחה
codegeex2 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
האם המודל מבין הערות או הנחיות בעברית?
לא. המודל אומן ספציפית על אנגלית וסינית מעבר לשפות התכנות. אם תכתבו לו פרומפטים בעברית הוא כנראה ייכשל לחלוטין או יחזיר פלט משובש, לכן מומלץ לעבוד מולו באנגלית בלבד.
איזה כרטיס מסך מינימלי צריך כדי להרים אותו?
בגרסה הרגילה תצטרכו כרטיס מסך עם לפחות 16 גיגה בייט זיכרון גרפי. אם תשתמשו בגרסת ה־INT4 המכווצת, תוכלו להסתפק בכרטיס ביתי פשוט עם 6 גיגה בייט זיכרון.
מותר לי להשתמש בו במוצר מסחרי של החברה?
לא באופן אוטומטי. המשקלים פתוחים חופשי רק לאקדמיה ומחקר. בשביל שימוש מסחרי אתם חייבים להגיש טופס בקשה באתר של המפתחים ולקבל אישור פרטני.
איך מריצים
במשקל מלא של bfloat16 הקבצים שוקלים 11.6 גיגה בייט, מה שדורש כרטיס מסך עם לפחות 16 גיגה בייט זיכרון כדי לטעון אותו ישירות בטרנספורמרס. עם זאת, קיימת גרסה מכווצת של 4 ביט שמסתפקת ב־6 גיגה בייט זיכרון בלבד, כך שאפשר להריץ אותה בלי בעיה על מחשבים ניידים עם כרטיסי מסך סטנדרטיים.
אם אתם צריכים רק עזרה נקודתית בעריכת קוד יומיומית, ליוצרים יש תוספים רשמיים לסביבות פיתוח כמו VS Code ו־JetBrains. במקרה כזה עדיף להתחבר לשירות שלהם במקום לשרוף משאבים על הרצה מקומית, אלא אם פרטיות הקוד מחייבת עבודה מקומית לחלוטין על הברזלים שלכם.
from transformers import pipeline
pipe = pipeline("text-generation", model="zai-org/codegeex2-6b")
print(pipe("שלום"))הקבצים
22 קבצים במאגר, 11.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
- pytorch_model-00005-of-00007.bin2.0 GB
- pytorch_model-00002-of-00007.bin2.0 GB
- pytorch_model-00003-of-00007.bin1.9 GB
- pytorch_model-00006-of-00007.bin1.9 GB
- pytorch_model-00001-of-00007.bin1.8 GB
- pytorch_model-00004-of-00007.bin1.8 GB
- pytorch_model-00007-of-00007.bin1.1 GB
- tokenizer.model1.0 MB
- resources/codegeex_logo.png424.7 KB
- modeling_chatglm.py51.0 KB
- pytorch_model.bin.index.json20.4 KB
- quantization.py14.7 KB
- LICENSE11.3 KB
- tokenization_chatglm.py10.6 KB
- README.md7.7 KB
- MODEL_LICENSE2.3 KB
- configuration_chatglm.py2.2 KB
- .gitattributes1.5 KB
- config.json1.3 KB
- tokenizer_config.json245 B
- save_model.py196 B
- generation_config.json90 B
הרישיון
הקוד בריפו מוגדר תחת רישיון Apache 2.0, אבל משקלי המודל עצמם סגורים יותר. הם פתוחים לגמרי למחקר אקדמי בלבד. לשימוש מסחרי במוצר אתם נדרשים למלא טופס בקשה רשמי מול המפתחים ולקבל אישור, כך שאי אפשר להטמיע אותו באופן חופשי ומיידי בפרויקטים מסחריים.