OpenCodeInterpreter-DS-6.7B

מה זה

מדובר בהתאמה של deepseek-coder-6.7b-base שמיועדת לא רק לכתוב סקריפטים, אלא גם לקבל משוב מהרצת הקוד ולשפר את הפלט בסבב נוסף. במקום להסתפק בניחוש תחבירי עיוור, הוא תוכנן להשתלב בלולאה שבה מריצים את הקוד, מחזירים לו את השגיאה, והוא מתקן בהתאם.

התוצאות במבחנים מראות בדיוק את הנקודה הזו. בבנצ'מרק HumanEval המודל מקבל 76.2 נקודות בריצה רגילה, אבל קופץ ל־81.1 כשמאפשרים לו סבב יחיד של תיקון מבוסס הרצה, ומגיע עד 89.7 כשמשלבים משוב אנושי סינתטי. ב־MBPP השיפור מורגש אפילו יותר, עם זינוק מ־73.9 ל־82.7 אחרי משוב הרצה. המספרים האלה אומרים שכדי להוציא ממנו תוצאות טובות באמת, אתם חייבים להריץ את הקוד שלו בפועל ולתת לו את השגיאות חזרה.

מתאים ל

• סביבות פיתוח עם בדיקות

  מתאים לחיבור לסביבה שמריצה unit tests ומחזירה שגיאות ישירות למודל כדי שיתקן את עצמו בלולאה.

• עוזר מקומי למשימות פייתון

  פתרון טוב למי שרוצה חלופה מקומית ל־Code Interpreter על חומרה סבירה של 16 עד 24 ג'יגה זיכרון וידאו.

• עיבוד והסבת קוד באנגלית

  ניצול חלון של 16,384 טוקנים כדי לקרוא פונקציות ארוכות באנגלית, להסביר שגיאות ולהציע גרסה מתוקנת.

איפה זה נופל

החיסרון המרכזי הוא שהמודל לא מריץ את הקוד בעצמו. כדי ליהנות מהקפיצה בביצועים שרואים בבנצ'מרקים, אתם חייבים לבנות סביבת הרצה מבודדת, להריץ בה את הקוד שהוא פולט, ללכוד את השגיאות ולהזין אותן בחזרה לפרומפט. בלי האופרציה הזו מסביב, מקבלים מודל 6.7B ממוצע שמתפקד ברמה הבסיסית שלו. בנוסף, המודל אומן ותועד רק באנגלית, ולכן לא מתאים לפרויקטים שדורשים הבנת עברית.

אותה משפחה

OpenCodeInterpreter-DS יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טעינת המודל נעשית ישירות דרך ספריית transformers בפייתון עם AutoModelForCausalLM ודיוק bfloat16. הקבצים שוקלים כ־25.1 ג'יגה-בייט, כך שתצטרכו כרטיס מסך עם לפחות 16 עד 24 ג'יגה-בייט זיכרון וידאו ייעודי כדי להחזיק אותו בזיכרון ולהריץ הסקת מסקנות בצורה חלקה, במיוחד אם מנצלים את חלון ההקשר המלא שמגיע ל־16,384 טוקנים.

אם אין לכם חומרה כזו מקומית או בשרת ענן ייעודי, עדיף להשתמש ב־API מנוהל שמחזיק מודלי קוד. בנוסף, אם אתם מחפשים ביצועים גבוהים בהרבה ויש לכם שרת מרובה כרטיסים, אותה משפחה מציעה גרסת 33B שמגיעה ל־83.2 ממוצע עם משוב, אבל היא דורשת משאבים כבדים בהרבה.

from transformers import pipeline

pipe = pipeline("text-generation", model="m-a-p/OpenCodeInterpreter-DS-6.7B")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 25.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model-00001-of-00002.bin10.0 GB
• model-00001-of-00002.safetensors10.0 GB
• pytorch_model-00002-of-00002.bin3.5 GB
• model-00002-of-00002.safetensors3.5 GB
• tokenizer.json1.4 MB
• model.safetensors.index.json25.1 KB
• pytorch_model.bin.index.json23.9 KB
• zero_to_fp32.py23.6 KB
• training_args.bin5.4 KB
• README.md5.4 KB
• tokenizer_config.json5.2 KB
• .gitattributes1.5 KB
• config.json716 B
• special_tokens_map.json462 B
• generation_config.json119 B

הרישיון

הרישיון הוא apache-2.0, שזה רישיון קוד פתוח מתירני ונוח. מותר להשתמש בו לצרכים מסחריים, לשנות את המשקלים, להפיץ אותם ולשלב אותם במוצרים שלכם בלי לשלם תמלוגים. התנאי היחיד הוא שמירת הודעת זכויות היוצרים והרישיון המקורי בקבצים הרלוונטיים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗