Carnice-9b

מה זה

הבסיס כאן הוא מיזוג ישיר של מתאם מעל Qwen 3.5 בגודל 9 מיליארד פרמטרים, בלי צורך לטעון קובצי PEFT בנפרד. היוצרים עשו שני שלבי אימון: הראשון עסק בתיקון יכולות היסק על דאטהסטים כמו Bespoke Stratos ו־NuminaMath, והשני כוונן ספציפית למבנה הפעולות של Hermes Agent עם עקבות ביצוע מותאמים. המטרה לא הייתה לטפס במבחני ביצועים כלליים, אלא לגרום למודל לפעול נכון בסביבת סוכנים.

בגודל הזה יש בדרך כלל פשרות קשות בין הבנת הוראות מורכבות לבין מהירות תגובה. כאן ההתמקדות כולה בתחביר קריאות לכלים, פקודות מסוף, עריכת קבצים וגלישה. בכרטיס המודל בחרו במפורש שלא לפרסם תוצאות מדידה מספריות ומסבירים שמספרים חד פעמיים שטחיים לא מייצגים איכות עבודה של סוכן, כך שאין כאן ציונים לבחון אלא רק את הצהרת הכוונות של המפתחים.

מתאים ל

• סוכן טרמינל מקומי

  אימון ייעודי על פקודות מסוף וסביבת Hermes Agent מאפשר לו להריץ משימות שורת פקודה בלי לסטות מהמבנה הנדרש.

• אוטומציית דפדפן וכלי רשת

  כוונן על עקבות גלישה ושימוש בכלים רב שלביים, מה שמתאים לשילוב בלולאות אוטומציה שדורשות איסוף מידע ברשת.

• עריכת קבצים מונחית כלים

  מבין קריאות כלים מובנות לצורך קריאה ושינוי של קבצים בפועל, במקום רק לייצר טקסט של קוד בתוך צ׳אט.

איפה זה נופל

הכרטיס מצהיר בגלוי שהוא לא עבר אופטימיזציה לשיחות רגילות או למבחני השוואה סטנדרטיים, ולכן לצ׳אט כללי או למענה לשאלות משתמשים הוא פשוט בחירה לא מתאימה. בנוסף, חסרים נתוני הערכה רשמיים מלאים, מה שאומר שאין עדות מספרית עצמאית לכמה הוא מדויק בפועל. לפני שמשלבים אותו בזרימת עבודה, צריך לבדוק היטב איך הוא מתמודד עם טעויות של עצמו בזמן הרצת פקודות מערכת.

אותה משפחה

Carnice יצא ב־5 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל עומד על 16.7 גיגה בייט בפורמט Transformers רגיל. כדי להריץ אותו כמו שצריך ב־bfloat16 מקומי, תצטרכו כרטיס מסך עם לפחות 20 עד 24 גיגה זיכרון גרפי, במיוחד אם רוצים לנצל הקשר ארוך מעבר לבדיקות קצרות.

אם אין לכם חומרה כזו זמינה באופן שוטף, או שאתם בונים שירות שצריך לשרת עשרות משתמשים במקביל, שווה לבדוק אם יש שרתי אינפרנס שמציעים אותו ב־API. ההרצה המקומית הגיונית בעיקר כשמריצים משימות אוטומציה מול מערכות פנימיות ורגישות, שבהן אסור לתעבורה לצאת מהרשת שלכם.

from transformers import pipeline

pipe = pipeline("text-generation", model="kai-os/Carnice-9b")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 16.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors9.9 GB
• model-00002-of-00002.safetensors8.0 GB
• tokenizer.json20.0 MB
• banner.png314.1 KB
• model.safetensors.index.json42.1 KB
• chat_template.jinja7.8 KB
• README.md3.8 KB
• banner.svg3.7 KB
• assets/supplementary_stage_progress.svg3.6 KB
• assets/supplementary_stage_table.svg3.3 KB
• assets/benchmark_hero.svg2.7 KB
• assets/benchmark_table.svg2.6 KB
• config.json2.0 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.1 KB
• benchmarks.json752 B
• generation_config.json115 B

הרישיון

הפרויקט מופץ ברישיון apache 2.0. זה מאפשר שימוש מסחרי חופשי, שינוי קוד, הפצה ושילוב במוצרים סגורים בלי תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗