Rocinante-X-12B-v1

קוד פתוח

TheDrummerרישיון לא דווח2026-01-19

safetensors
mistral

כיול של מיסטרל שמיועד לכתיבה יוצרת ומשחקי תפקידים. הוא נבנה למי שמחפש פרוזה זורמת בלי הצדקנות והסירובים של מודלים תאגידיים רגילים.

12Bפרמטרים
131,072טוקנים בהקשר
22.8 GBמשקל הקבצים
1,348הורדות בחודש

מה זה

הבסיס כאן הוא מיסטרל בנפח 12 מיליארד פרמטרים וארבעים שכבות, שעבר כוונון ממוקד למשחקי תפקידים, דיאלוגים וסיפורים. היוצר שלו מכוון מראש לחופש יצירתי ולחוסר יישור קו עם מוסכמות תאגידיות, כך שהעדיפות ניתנת לסגנון, עניין בעלילה וגמישות תוכנית, ולא לפתרון בעיות לוגיות מורכבות או בטיחות מחמירה.

בגודל כזה, רוב המודלים נוטים לחזרתיות או לאיבוד עניין מהיר בטקסטים ארוכים. המודל הזה מחזיק חלון הקשר של 131,072 טוקנים, מה שמאפשר להריץ איתו שיחות ממושכות מאוד ועלילות מורכבות בלי לאבד את חוט המחשבה של הדמויות, כל עוד שומרים על ההגדרות הנכונות.

מתאים ל

משחקי תפקידים מבוססי טקסט
הוא שומר על אופי הדמות לאורך עשרות הודעות ואינו מסרב בקלות לתרחישים חריגים.
עריכה וכתיבה של סיפורים
פרוזה עשירה ודיאלוגים טבעיים שלא מרגישים כמו תשובה רובוטית של מנוע חיפוש.
שיחות עלילתיות ארוכות
חלון הקשר גדול מאפשר לנהל עלילה שלמה בלי שההקשר יישכח באמצע הדרך.

איפה זה נופל

זה לא מודל למשימות תכנות, ניתוח נתונים או עבודה משרדית. הוא לא נועד לדיוק עובדתי. גם בתחום הכתיבה הוא עדיין סוחב קלישאות לשוניות שמקורן באימוני רשת קודמים, ולא תמיד מצליח לייצר עומק כמו מודלים כפולים בגודלם. אם לא תקפידו על תבנית הפרומפט המדויקת של טקן, איכות הפלט תתרסק מהר מאוד.

שאלות
נפוצות

האם המודל יצנזר תכנים אפלים או בוטים?

היוצר כיוון אותו במפורש להימנע מחסימות מלאכותיות של מוסר או תקינות פוליטית. הוא נועד להתמודד עם נושאים מורכבים ועלילות חופשיות, כך שהוא לא יעצור את הכתיבה כמו מודלים של חברות גדולות.

איזו תבנית פרומפט חייבים להגדיר בתוכנת ההרצה?

יש לבחור בתבנית Mistral v3 Tekken, להסיר לחלוטין את שדה ה־SYSTEM_PROMPT מההגדרות ולוודא שאין רווחים עודפים. אפשרות חלופית שנתמכת היא תבנית Metharme.

איך מריצים

המשקל המקורי מגיע ל־22.8 גיגה בייט ב־14 קבצים, מה שדורש כרטיס מסך עם לפחות 24 גיגה זיכרון כדי להריץ בפורמט מלא. בפועל עדיף להוריד גרסאות מכווצות כמו GGUF או EXL3 שפורסמו עבורו, שמסתדרות מצוין על מחשב אישי או מחשב נייד עם 16 גיגה זיכרון מאוחד.

מבחינת תבנית השיחה, חובה לעבוד עם Mistral v3 Tekken בלי רווחים מיותרים ובלי תגית סיסטם ייעודית, או להשתמש בתבנית Metharme. הוא עובד עם או בלי תגיות חשיבה. אם אין לכם חומרה מקומית פנויה, אפשר לחפש שרתי קהילה שמארחים אותו, אבל היתרון העיקרי של מודל לא מסונן כזה מגיע כשמריצים אותו מקומית באופן פרטי לחלוטין.

pip install -U huggingface_hub
hf download TheDrummer/Rocinante-X-12B-v1

הקבצים

14 קבצים במאגר, 22.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

היוצר לא דיווח על רישיון כלשהו בדף המודל. במצב כזה, ברירת המחדל החוקית היא שאין לכם הרשאה מפורשת להפיץ, להטמיע במוצר מסחרי או לחשוף את הפלטים שלו כשירות חיצוני בתשלום. עד שלא יפורסם רישיון ברור, הוא מתאים רק לניסויים אישיים ובדיקות מקומיות על המחשב שלכם.

הרישיון המלא בעמוד המודל ↗