Phind-CodeLlama-34B-v2

מה זה

מדובר באימון המשך מלא, ללא שימוש בטכניקות כמו LoRA, על בסיס גרסת v1 הקודמת של Phind. היוצרים הוסיפו דאטהסט ייחודי של מיליארד וחצי טוקנים המורכב כולו משאלות ותשובות של בעיות תכנות ולא מסתם השלמת טקסט, כך שהוא מגיב ישירות להוראות ולא מחכה שתתחילו לכתוב קוד במקומו.

במבחן HumanEval הוא הגיע לתוצאה של 73.8 אחוזים בהרצה הראשונה. בפועל זה אומר שעל אוסף בעיות הפייתון הסטנדרטי של המבחן, כמעט שלושה מתוך ארבעה פתרונות שהוא מייצר עוברים בהצלחה את כל הבדיקות האוטומטיות כבר בניסיון הראשון. הוא תומך בכמה שפות פיתוח מרכזיות כמו פייתון, C++, טייפסקריפט וג׳אווה, ומגיע עם חלון הקשר של 16,384 טוקנים שמתאים לקריאת קבצים שלמים.

מתאים ל

• פתרון בעיות אלגוריתמיות

  מבנה האימון על שאלות ותשובות ודיוק גבוה במבחני פייתון מתאימים לכתיבת פונקציות מורכבות.

• עבודה בשפות מרובות

  הוא אומן על מגוון שפות כמו ג׳אווה, C++ וטייפסקריפט ומסוגל להמיר קוד ביניהן.

• סיוע אינטראקטיבי בפיתוח

  תמיכה מובנית בפורמט הוראות הופכת אותו לבוט יעיל שמקבל בקשות בשפה טבעית ומחזיר קוד.

איפה זה נופל

היוצרים מבהירים במפורש שהמודל עבר בדיקות בטיחות מוגבלות מאוד בלבד לפני הפרסום. המשמעות היא שאסור להשתמש בקוד שהוא מייצר בסביבות ייצור או במערכות קריטיות בלי סקירה קפדנית, כי הוא עלול לפלוט קוד פגיע, תלויות לא מאובטחות או שגיאות לוגיות שלא נתפסו. בנוסף, האימון התבצע על אורך רצף של 4,096 טוקנים בלבד, כך שלמרות שחלון ההקשר המדווח רחב בהרבה, שמירה על עקביות ודיוק בבלוקים ענקיים של קוד דורשת בדיקה זהירה לפני שסומכים עליו בפרויקט אמיתי.

אותה משפחה

Phind-CodeLlama יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים מגיע לכמעט 63 גיגה בייט בדיוק bfloat16, כך שלהריץ אותו מקומית בלי קוונטיזציה דורש לפחות כרטיס עם 80 גיגה בייט זיכרון גרפי, או שני כרטיסים של 48 גיגה בייט. אם אין לכם חומרה כזאת בענן או בתחנת עבודה ייעודית, תצטרכו להמיר אותו לפורמט מכווץ כמו GGUF או לקרוא לשרת מרוחק.

הוא מופעל דרך ספריית transformers ישירות מהמאגר של גיטהאב, ועובד לפי מבנה פרומפט מוגדר של Alpaca או Vicuna עם שדות מוגדרים למערכת, למשתמש ולתשובה. חשוב לשמור על התחביר הזה בדיוק כדי לקבל את התוצאות שהמודל אומן להחזיר.

from transformers import pipeline

pipe = pipeline("text-generation", model="Phind/Phind-CodeLlama-34B-v2")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 62.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model-00001-of-00007.bin9.9 GB
• pytorch_model-00002-of-00007.bin9.7 GB
• pytorch_model-00003-of-00007.bin9.7 GB
• pytorch_model-00004-of-00007.bin9.7 GB
• pytorch_model-00005-of-00007.bin9.7 GB
• pytorch_model-00006-of-00007.bin9.7 GB
• pytorch_model-00007-of-00007.bin9.2 GB
• tokenizer.model499.7 KB
• pytorch_model.bin.index.json35.8 KB
• README.md3.7 KB
• .gitattributes2.1 KB
• tokenizer_config.json824 B
• config.json638 B
• special_tokens_map.json434 B
• generation_config.json116 B

הרישיון

הרישיון הוא רישיון llama2 של מטא. הוא מאפשר שימוש מסחרי חופשי כל עוד המוצר שלכם לא חוצה את רף 700 מיליון המשתמשים הפעילים בחודש, ומחייב לצרף את תנאי הרישיון המקוריים ואת מדיניות השימוש המקובלת של מטא.

• שימוש מסחרי עד 700 מיליון משתמשים
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗