stable-code-instruct-3b

מה זה

מדובר בגרסת הוראות למודל הבסיס של Stability AI, שאומנה בעזרת שילוב של נתונים ציבוריים וסינתטיים עם DPO. המטרה כאן היא לתת מענה לשאלות הנדסת תוכנה, השלמת קוד ושיחה טכנית, לצד דגש מיוחד על יצירת שאילתות SQL ופתרון בעיות במסדי נתונים.

במבחני MultiPL-E הוא מציג ממוצע של 0.47 ועוקף מודלים גדולים ממנו כמו CodeLlama 7B שקיבל 0.30, במיוחד בפייתון עם ציון 0.59 לעומת 0.33 של המתחרה הגדול. גם ב־MT-Bench לקוד הוא מקבל ציון 5.8, שזה מעל StarChat2 שמחזיק 15 מיליארד פרמטרים, כך שמבחינת יעילות ביחס למשקל הוא עושה עבודה טובה מאוד.

מתאים ל

• עוזר קוד מקומי ב־IDE

  מתאים לחיבור לסביבת פיתוח להשלמות ושיחה באופליין, בזכות דרישות חומרה נמוכות ודיוק טוב בפייתון.

• סיוע בכתיבת שאילתות SQL

  עוזר בניסוח חיבורי טבלאות וקיבוצים בסיסיים, כל עוד בודקים ידנית את התנאים והתאריכים.

• ניתוח קבצי קוד ארוכים

  חלון של 16,384 טוקנים מאפשר להזין מודולים שלמים באנגלית כדי לבקש הסבר או איתור באגים נקודתי.

איפה זה נופל

למרות ההבטחה סביב SQL, במבחנים הייעודיים הוא מקבל רק 24.0% בטיפול בתאריכים ו־42.8% בסינוני Where, רחוק מאוד ממודלים מתמחים כמו SQLCoder 7B שעומד על מעל 60% ו־74%. בנוסף, DeepSeek Coder 6.7B מנצח אותו בבירור ב־MT-Bench עם ציון 6.9, והוא הוכשר באנגלית בלבד כך שהוא לא מיועד להבנת פרומפטים או הערות בעברית.

אותה משפחה

stable-code יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המודל שוקל 8.7 גיגה בייט בפורמט bfloat16, מה שאומר שהוא נכנס בקלות לכרטיס מסך ביתי בודד עם 8 עד 12 גיגה זיכרון, או לעבודה נוחה על מעבד ומחשבי מק עם זיכרון משותף. הוא רץ ישירות דרך ספריית transformers בארכיטקטורת StableLmForCausalLM עם חלון הקשר של 16,384 טוקנים שמאפשר לטעון קבצים שלמים.

אם אתם צריכים רק מדי פעם עזרה במשימות מורכבות של ארכיטקטורה, שווה לשקול פנייה ל־API חיצוני של מודל ענק. לעומת זאת, כשיש צורך בהשלמות קוד שוטפות באופליין או כשקוד המקור רגיש מדי להוצאה לרשת, הרצה מקומית שלו פשוטה ומשתלמת.

ollama run hf.co/stabilityai/stable-code-instruct-3b:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

13 קבצים במאגר, 8.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• stable-code-3b-q5_k_m.gguf2.0 GB
• stable-code-3b-q4_k_m.gguf1.7 GB
• model-00002-of-00002.safetensors610.2 MB
• tokenizer.json2.1 MB
• model.safetensors.index.json29.4 KB
• LICENSE.md11.9 KB
• tokenizer_config.json9.4 KB
• README.md6.7 KB
• .gitattributes1.6 KB
• config.json738 B
• special_tokens_map.json587 B
• generation_config.json132 B

הרישיון

הרישיון מוגדר כ־StabilityAI Community License ומסומן כ־other. הוא חופשי לשימוש מחקרי ולא מסחרי, אבל שימוש בתוך מוצר מסחרי דורש כניסה להסכם רישוי נפרד ותשלום מול Stability AI, כך שאי אפשר פשוט להטמיע אותו במוצר בלי לבדוק קודם את תנאי החברה.

הרישיון המלא בעמוד המודל ↗