granite-8b-code-instruct-4k

מה זה

יבמ בנתה כאן גרסת הוראות ייעודית למפתחים על בסיס מודל הבסיס שלה, עם כוונון ממוקד בפתרון בעיות, מתמטיקה ומעקב אחר פקודות טכניות. האימון התבסס על שילוב של היסטוריית קומיטים בתשעים ושתיים שפות תכנות, לצד מאגרי נתונים ייעודיים להמרת שפה טבעית לשאילתות בסיס נתונים וקריאות לממשקים חיצוניים.

הייחוד של המודל ביחס למשקל שלו הוא הדגש המחמיר על סינון הנתונים. צוות הפיתוח ניקה במכוון מאגרי מתמטיקה והוראות שהיו בהם בעיות רישוי כדי לשמור על שרשרת קוד נקייה, מה שמעניק שקט משפטי לחברות, אך משאיר אותו מאחור בביצועים לעומת גרסאות חדשות יותר של הסדרה.

מתאים ל

• השלמת קוד מקומית

  מתאים לעבודה שוטפת בסביבת פיתוח מבודדת שבה נדרשת תמיכה בשפות תכנות נפוצות בלי להוציא נתונים החוצה.

• המרת שפה ל־SQL

  מבוסס על אימון ייעודי ליצירת שאילתות מתוך הוראות טקסט רגילות עבור בסיסי נתונים.

• מחקר והשוואת גרסאות

  משמש לבדיקות היסטוריות ומחקריות של התפתחות משפחת המודלים של יבמ לפי הגדרת היצרן.

איפה זה נופל

היוצרים מבהירים במפורש שהמודל מיושן ולא מומלץ לפיתוחים חדשים, ומפנים לסדרות המעודכנות שלהם. מעבר לכך, חלון ההקשר מוגבל לארבעת אלפים תשעים ושישה טוקנים, מה שלא מספיק לניתוח של קבצי קוד ארוכים או פרויקטים שלמים.

האימון התמקד ברשימה מוגדרת של שפות תכנות, ולכן בשפות שנמצאות מחוץ למאגר הביצועים צונחים, עד כדי צורך בהוספת דוגמאות בתוך הפרומפט כדי לקבל תוצאה סבירה.

איך מריצים

המשקל הכולל של הקבצים עומד על חמישה עשר ג'יגה בייט בדיוק המקורי, ולכן צריך כרטיס גרפי עם מספיק זיכרון וידאו כדי לטעון אותו ישירות דרך ספריית הטרנספורמרס. אפשר להריץ אותו מקומית על שרת ייעודי או סביבת ענן שכוללת מאיץ גרפי מתאים.

אם אתם לא חייבים פרטיות מוחלטת או הרצה פנימית מנותקת רשת, אין סיבה אמיתית להתאמץ על תשתית עצמאית בשבילו. עדיף להשתמש במודל מתקדם יותר דרך ממשק חיצוני, במיוחד כשהגרסה הזו כבר הוגדרה כלא מומלצת לפרויקטים חדשים.

from transformers import pipeline

pipe = pipeline("text-generation", model="ibm-granite/granite-8b-code-instruct-4k")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00003-of-00004.safetensors5.0 GB
• model-00001-of-00004.safetensors5.0 GB
• model-00002-of-00004.safetensors4.9 GB
• model-00004-of-00004.safetensors1.3 GB
• tokenizer.json2.1 MB
• model.safetensors.index.json46.8 KB
• README.md9.7 KB
• tokenizer_config.json4.5 KB
• .gitattributes1.5 KB
• special_tokens_map.json1.0 KB
• config.json679 B
• generation_config.json137 B

הרישיון

הפרויקט מופץ ברישיון אפאצ'י שתיים אפס. מותר לקחת אותו למוצרים מסחריים, לשנות את הקוד ולהריץ אותו פנימית בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים ומסמכי הרישיון המקוריים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗