DeciCoder-1b

מה זה

המודל הזה נבנה כדי להשלים שורות קוד ופונקציות, תוך שימוש בארכיטקטורת Grouped Query Attention שמאיצה את ההסקה וחוסכת בזיכרון. הוא אומן על 446 מיליארד טוקנים שסוננו ממאגר StarCoder בשלוש שפות בלבד, ותומך במילוי קוד באמצע קובץ, מה שהופך אותו לטבעי בתוך עורכי קוד.

במבחני MultiPL HumanEval התוצאות מראות pass@1 של 19.1% בפייתון, 18.4% בג'אווהסקריפט ו־16.6% בג'אווה. המשמעות בפועל ברורה: הוא מייצר קוד ראשוני סביר אבל נכשל ברוב המוחלט של המקרים המורכבים, כך שאי אפשר להסתמך עליו לכתיבה אוטונומית אלא רק כהשלמה חכמה שמפתח בודק במקום.

מתאים ל

• השלמת קוד בעורך מקומי

  משתלב בתוך IDE כתוסף קל משקל להשלמת שורות בזמן אמת, בלי לשלוח שום קוד לשרת חיצוני.

• השלמת פונקציות פייתון

  מקבל חתימת פונקציה והערת תיעוד, ומייצר את גוף הפונקציה הבסיסי ישירות על מעבד מקומי.

• הסקה מהירה בחומרה זולה

  מתאים לשרתים חלשים עם זיכרון וידאו זעיר שחייבים אלפי טוקנים בשנייה בלי תקציב ל־A100.

איפה זה נופל

זה לא מודל הוראות. אם תכתבו לו בעברית או באנגלית בקשה כמו תכתוב לי פונקציה, תקבלו ג'יבריש או המשך לא קשור. הוא מגיב רק להערות קוד, חתימות של פונקציות ודוקסטרינג.

בנוסף, הכרטיס מבהיר שהקוד שהוא מייצר עלול להכיל באגים קשים או חולשות אבטחה, וחלון ההקשר מוגבל ל־2,048 טוקנים בלבד. לוגיקה שדורשת קבצים מרובים או פרויקטים גדולים פשוט תיחתך.

איך מריצים

טוענים אותו דרך transformers ישירות עם AutoModelForCausalLM בדיוק bfloat16, כשהמשקל הכולל של הקבצים הוא 2.1 גיגה בייט בלבד. בגלל הגודל הזה הוא רץ בקלות על מעבד רגיל או כרטיס מסך פשוט, ובכרטיס A10 הוא חוצה בקלות אלף טוקנים לשנייה אפילו ב־PyTorch רגיל.

צריך להגדיר trust_remote_code כיוון שמדובר בארכיטקטורה מותאמת. אם אתם מחפשים סוכן שמבין משימות שלמות וכותב קבצים מאפס, עדיף לפנות ל־API של מודל ענק במקום להתאמץ לתחזק אותו.

from transformers import pipeline

pipe = pipeline("text-generation", model="Deci/DeciCoder-1b")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 2.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors2.2 GB
• tokenizer.json2.1 MB
• vocab.json777.0 KB
• merges.txt441.8 KB
• modeling_decicoder.py12.8 KB
• README.md6.2 KB
• configuration_decicoder.py2.1 KB
• .gitattributes1.5 KB
• config.json715 B
• tokenizer_config.json677 B
• special_tokens_map.json532 B

הרישיון

הרישיון הוא Apache 2.0 מלא, מה שאומר שמותר להשתמש בו לצרכים מסחריים, לשנות אותו ולהטמיע אותו במוצרים פנימיים או חיצוניים בלי לשלם תמלוגים, כל עוד שומרים על הודעת הרישיון והקרדיט המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗