zed-industries/zeta

מה זה

המאגר כולל 617 קבצים ומחולק לשלושה חלקים עיקריים שנועדו לשלבי אימון שונים. החלק הראשון שמור בקובץ train.jsonl ומרכז דוגמאות לאימון מונחה רגיל, החלק השני נמצא בתוך dpo.jsonl ומיועד לאופטימיזציית העדפות ישירה, והחלק השלישי הוא eval.jsonl שמשרת הערכת ביצועים. הנתונים האלה נוצרו במקור מתוך קובצי מרקדאון שיושבים בתיקיות המאגר, כמו ספריית dpo שמכילה קבצים ממוספרים.

תהליך האיסוף והעיבוד נשען על כמה שלבים פנימיים שמתועדים בסקריפטים המצורפים. לפי התיעוד, תחזיות נמשכו ממאגר Snowflake ועברו בדיקה אנושית ידנית בעזרת שרת ווב מקומי, שבו בודק אישר דוגמאות טובות והעביר אותן לתיקיית האימון או פסל אותן לפח. בנוסף, המפתחים השתמשו בבוחן חיצוני דרך ממשק ה־API של חברת Anthropic כדי להדביק תוויות על הנתונים באופן אוטומטי, לפני שקובצי המרקדאון עברו אימות ונארזו לקובצי ה־JSONL הסופיים.

מתאים ל

• אימון השלמת עריכות קוד

  שימוש בקובצי ה־JSONL כדי לאמן מודלים על חיזוי הצעד הבא של מתכנת בעורך.

• כוונון מודלים בשיטת DPO

  הפעלת מחברת ה־DPO על קובץ dpo.jsonl לצורך התאמת העדפות במודלי פיתוח.

• הערכת מודלי תכנות

  בדיקת ביצועים של מודלי שפה לעריכת קוד מול סט הנתונים שבקובץ eval.jsonl.

איפה זה נופל

התיעוד מודה במפורש בחלק מתהליך הסינון שמודל השפה של אנתרופיק לא תמיד החזיר תוויות בפורמט הנדרש, ולכן חלק מהדוגמאות נשארו ללא תיוג ומצריכות בדיקה נוספת. המאגר מותאם באופן צר למשימה של חיזוי העריכה הבאה בעורך Zed, כך שהוא מניח קשר הדוק למיקום סמן ודפוסי עבודה ספציפיים. אין בתיעוד פירוט לגבי שפות התכנות שנכללות בו, מגוון הפרויקטים או תמיכה בעברית בהערות קוד, ולכן מי שמתכנן לאמן עליו מודל רחב חייב לבדוק את התפלגות הטקסט בפועל.

איך מריצים

המאגר ציבורי ופתוח להורדה ישירה מ־Hugging Face בלי צורך בהרשאה מקדימה. הנתונים זמינים בקובצי JSONL שמיועדים לטעינה נוחה בספריות אימון, לצד קובצי המקור בפורמט מרקדאון. כדי להריץ את סקריפטי העיבוד והסינון צריך סביבת פייתון עם חבילות כמו fastapi ו־uvicorn, ואם רוצים להפעיל את תיוג הנתונים מחדש נדרש גם מפתח גישה לחשבון Anthropic. בנוסף מצורפות במאגר מחברות Jupyter ייעודיות לתהליכי האימון וה־DPO.

pip install -U huggingface_hub
hf download zed-industries/zeta

הקבצים

15 קבצים במאגר, 14.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00004.safetensors4.9 GB
• model-00001-of-00004.safetensors4.9 GB
• model-00003-of-00004.safetensors4.3 GB
• model-00004-of-00004.safetensors1.1 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json27.8 KB
• tokenizer_config.json4.9 KB
• README.md2.2 KB
• .gitattributes1.6 KB
• config.json800 B
• added_tokens.json632 B
• special_tokens_map.json616 B
• generation_config.json166 B

הרישיון

המאגר מופץ תחת רישיון Apache 2.0. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של הנתונים והפצה מחודשת שלהם. מותר לאמן עליו מודלים מסחריים בלי חובה לפתוח את הקוד שלכם, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי בקבצים שמפיצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗