zeta

מה זה

מדובר במודל של 7.6 מיליארד פרמטרים שמבוסס על Qwen2.5-Coder-7B, ועבר אימון נוסף בשיטות SFT ו־DPO על גבי דאטהסט ייעודי בשם zeta. המטרה המרכזית שלו היא לא צ'אט ולא כתיבת סקריפטים שלמים משורת פקודה, אלא תמיכה במנגנון חיזוי עריכות בתוך סביבת הפיתוח. הוא יודע להסתכל על הקוד הקיים ולנחש איזה שינוי ספציפי אתם עומדים לבצע בקובץ.

ההבדל המשמעותי בינו לבין מודלי קוד רגילים בגודל הזה טמון בהתמקדות בעריכות מקומיות. במקום לייצר מחדש בלוקים ענקיים של קוד שלא השתנה, הוא מיועד לעבוד ישירות מול שינויי טקסט נקודתיים. חלון ההקשר עומד על 32,768 טוקנים, כך שאפשר להזין לו קבצים ארוכים יחד עם היסטוריית השינויים מבלי לחתוך את הקוד מסביב, מה שמאפשר לו להבין את המבנה המלא של הקובץ לפני שהוא מציע תיקון.

מתאים ל

• חיזוי עריכות בעורך קוד

  הוא אומן בדיוק בשביל זה, להשלים שינויים ישירות בקובץ לפי הקוד שכבר כתבתם.

• השלמת קוד חסכונית

  ניצול מנגנון n-gram מול קוד קיים מאפשר מהירות גבוהה במיוחד על כרטיסים מתאימים.

• אימון נוסף למשימות קוד

  המחברות של SFT ו־DPO זמינות ומאפשרות להמשיך להתאים אותו לדפוסי פיתוח פנימיים.

איפה זה נופל

המודל הזה אומן למטרה מוגדרת מאוד של עריכת קוד. אם תנסו להשתמש בו לשיחה רגילה, להסבר קונספטים תיאורטיים או לכתיבת קוד מאפס מתוך הנחיות טקסט כלליות, הוא כנראה יתפקד פחות טוב ממודל הבסיס. בנוסף, כרטיס המודל לא כולל ציוני מבחנים תקניים כמו HumanEval או מדדי שגיאה של חיזוי, כך שאי אפשר לדעת מראש מה אחוזי הדיוק שלו בשפות תכנות פחות נפוצות לפני שמריצים בדיקה בפועל.

איך מריצים

כדי להריץ אותו צריך כרטיס מסך עם זיכרון של לפחות 16 גיגה בייט כדי לטעון את 14.2 הגיגה בייט של המשקלים ברמת הדיוק המקורית. הדרך הפשוטה ביותר להרים שרת היא באמצעות vLLM עם פקודת serve בסיסית.

אם יש לכם גישה לחומרה חזקה כמו H100 או MI300x, אפשר להשתמש בקוונטיזציה של FP8 יחד עם speculative decoding מבוסס n-gram. השיטה הזו מנצלת את העובדה שרוב הטוקנים כבר קיימים בפרומפט כדי לזרז משמעותית את החיזוי. למי שאין כרטיס ייעודי עם מספיק זיכרון וידאו פנוי, עדיף להסתמך על שירות ענן במקום לחכות שניות ארוכות לכל חיזוי מקומי.

pip install -U huggingface_hub
hf download zed-industries/zeta

הקבצים

15 קבצים במאגר, 14.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00004.safetensors4.9 GB
• model-00001-of-00004.safetensors4.9 GB
• model-00003-of-00004.safetensors4.3 GB
• model-00004-of-00004.safetensors1.1 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json27.8 KB
• tokenizer_config.json4.9 KB
• README.md2.2 KB
• .gitattributes1.6 KB
• config.json800 B
• added_tokens.json632 B
• special_tokens_map.json616 B
• generation_config.json166 B

הרישיון

הרישיון הוא Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי חופשי לחלוטין, שינוי של המשקלים, הפצה ושילוב בתוך מוצרים מסחריים בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗