Skyfall-31B-v4.2

מה זה

המודל הזה יושב על ארכיטקטורת MistralForCausalLM עם 54 שכבות, והוא נבנה במטרה מוצהרת לשרת כתיבה יצירתית ובידור. בזמן שרוב הפיתוחים בתעשייה מכוילים לפתרון בעיות, קידוד או יישור קו עם כללי בטיחות נוקשים, היוצר שלו בחר בכיוון ההפוך. הדגש כאן הוא על שפה מגוונת, חופש ממוסרנות כפויה, ויכולת להיכנס לניואנסים של דמויות בדיאלוגים מורכבים.

הוא כולל חלון הקשר עצום של 131,072 טוקנים, ותומך בתבנית השיחה Mistral v7 Tekken. זה מיועד למי שמחפש מודל מקומי שלא מסרב לבקשות בעניינים רגישים, יודע להחזיק שיחה ארוכה בלי לאבד את ההקשר, ומשתדל לא להישמע כמו מסמך משפטי או נציג שירות לקוחות מעונב.

מתאים ל

• משחקי תפקידים מורכבים

  הוא יודע לנהל דיאלוגים מרובי דמויות לאורך הקשר רחב בלי לקטוע את הזרימה.

• כתיבת סיפורת ודיאלוגים

  האימון מתמקד באוצר מילים עשיר, הבעת רגשות וסגנון כתיבה שלא מתנצל או מסרב.

• הרצת תרחישים ללא סינון

  מתאים ליוצרים שרוצים לכתוב על נושאים קשים בלי הרצאות מוסר מובנות.

איפה זה נופל

היוצר מבהיר מראש שהאינטליגנציה הכללית, דיוק עובדתי ופתרון בעיות אינם בסדר העדיפויות של המודל. לא הייתי משתמש בזה למשימות שדורשות עובדות מוצקות, שליפת מידע אמין, מתמטיקה או כתיבת קוד למערכות אמיתיות. המודל עלול להמציא דברים בביטחון מלא, ובגלל שהוא לא מיושר על בטיחות, הוא לא מסנן תכנים בעייתיים.

אותה משפחה

Skyfall יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל המקורי מגיע ב־11 קבצים שתופסים 58.4 גיגה בייט, כך שאי אפשר להריץ את הגרסה הגולמית בלי זיכרון וידאו רציני ומערך כרטיסים כבד. מי שרוצה להריץ אותו מקומית יפנה ישר לגרסאות המכווצות שנוצרו עבורו, כמו GGUF או EXL3, שחוסכות מקום ומאפשרות עבודה יעילה יותר.

אם אין לכם חומרה חזקה שמסוגלת להחזיק עשרות גיגה בייטים בזיכרון, עדיף להריץ אותו דרך שירות ענן או להשתמש בפתרון מוכן במקום לנסות להרים אותו על מחשב אישי רגיל.

pip install -U huggingface_hub
hf download TheDrummer/Skyfall-31B-v4.2

הקבצים

11 קבצים במאגר, 58.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors49.7 GB
• model-00002-of-00002.safetensors13.0 GB
• tokenizer.json17.1 MB
• debug.log830.2 KB
• model.safetensors.index.json40.3 KB
• tokenizer_config.json21.3 KB
• README.md8.3 KB
• chat_template.jinja4.7 KB
• .gitattributes1.6 KB
• config.json693 B
• generation_config.json163 B

הרישיון

הרישיון לא דווח בעמוד המודל. במצב כזה אין אישור משפטי מוגדר לשימוש מסחרי, וכל שילוב שלו במוצר מסחרי חושף אתכם לסיכון של הפרת זכויות יוצרים עד שהיוצר יפרסם תנאים ברורים.

הרישיון המלא בעמוד המודל ↗