Impish_Bloodmoon_12B

קוד פתוח

SicariusSicariiStuffapache-2.02025-09-01

safetensors
mistral
en

מודל 12B חצוף שמתמקד במשחקי תפקידים וכתיבה יוצרת ללא עכבות. הוא נבנה כדי לדחוף את Mistral Nemo לקצה בלי הסירוס המקובל במודלים תאגידיים.

12Bפרמטרים
131,072טוקנים בהקשר
22.8 GBמשקל הקבצים
276הורדות בחודש

מה זה

בבסיס יושב Mistral Nemo שעבר אימון עמוק בשיטת RsLoRA ברנק 256 על דאטה־סט של בין 1.5 ל־2 מיליארד טוקנים. היוצר שלו הכניס לשם נתונים מפורומים כמו 4chan, תוכן סביב עולמות כמו Fallout ו־Morrowind, ואימן אותו לזהות אינטראקציות מורכבות בין דמויות, מעקב אחרי חפצים וטקטיקות של הטעיה.

בניגוד למודלים שמנסים להישמע תמיד מנומסים ועוזרים, כאן כיוונו ישירות לאישיות חריפה וצינית עם פחות נטייה לחיוביות מזויפת. בנוסף לאנגלית, האימון כלל את כל ויקיפדיה העברית לצד רוסית ויפנית, תוספת שמבוססת על הניסויים שהיוצר עשה קודם לכן בדגם Hebrew Nemo.

מתאים ל

הרצת משחקי תפקידים
הוא אומן על מעקב אחרי חפצים, סטטיסטיקות והתנהגות רב־דמויות עם סגנון ישיר ולא מתנצל.
ייצור דאטה־סטים ב־JSON
המודל כולל יכולת ייעודית לייצר תרחישי תפקידים במבנה נתונים מוגדר בפרומפט יחיד.
עריכה יצירתית חופשית
הוא משמש כמנוע למציאת מילים נרדפות ותיקון טקסטים ספרותיים בלי מוסרנות מיותרת.

איפה זה נופל

היוצר מציין רמת צנזורה של 6.5 מתוך 10, כך שהוא לא נקי לחלוטין אבל רחוק מלהתאים לסביבות עבודה רגישות. הכנסת כמות עצומה של טקסט רב־לשוני פגעה ביכולות ההוראה הכלליות של הדגם המקורי, ולמרות מאמצי פיצוי, הוא לא מיועד לפתרון בעיות היגיון קרות, מתמטיקה או תכנות מורכב. אם אתם מחפשים כתיבה מתונה יותר או שמירה על גבולות ברורים, המפתח עצמו מפנה לדגם המקביל שלו, Angelic Eclipse 12B.

שאלות
נפוצות

האם המודל מתאים ליישום שירות לקוחות?

ממש לא. כיוונו לו את הטמפרמנט להתנהגות עוקצנית וצינית עם פחות סינון, ובנוסף האימון פגע ביכולות הפורמליות. לשימושים עסקיים שדורשים נימוס ועקביות עדיף לקחת את Mistral Nemo המקורי או את הדגם המקביל Angelic Eclipse.

איך השליטה שלו בעברית?

הוא עבר אימון על כל ויקיפדיה העברית בהמשך לפרויקט Hebrew Nemo של אותו יוצר, ולכן יש לו בסיס שפתי סביר בהרבה מרוב דגמי 12B הזרים. עם זאת, השפה המרכזית שלו נותרה אנגלית, וטקסטים יצירתיים מורכבים עדיין ידרשו בדיקה והתאמה.

איך מריצים

המשקל המקורי מגיע ב־FP16 ותופס 22.8 גיגה־בייט ב־26 קבצים נפרדים, מה שאומר שכרטיס של 24 גיגה־בייט יחזיק אותו על הקשקש לפני שמחשבים את הקשר השיחה. אם אין לכם חומרה כזו, קיימות גרסאות קוונטיזציה רבות כמו GGUF, AWQ ו־GPTQ של 4 ביט שרצות בקלות על כרטיסים צנועים יותר או על מעבדי ARM.

המבנה של הפרומפטים דורש ChatML, אבל היוצר ממליץ על פורמט טקסט פשוט בשם SICAtxt לבניית דמויות והרפתקאות כדי לחסוך טוקנים. אין שירות API רשמי או ענן ייעודי של המפתח, כך שהרצה מקומית או העלאה לשרת פרטי הן הדרכים העיקריות לעבוד איתו.

pip install -U huggingface_hub
hf download SicariusSicariiStuff/Impish_Bloodmoon_12B

הקבצים

26 קבצים במאגר, 22.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את המשקולות, להפיץ מחדש ולשלב אותו במוצרים פרטיים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי בלי להטיל אחריות על המפתח.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗