QwQ-32B-Snowdrop-v0

מה זה

מדובר במיזוג שנעשה בשיטת TIES על בסיס Qwen2.5-32B, שמשלב בין QwQ-32B לבין שתי גרסאות של Marigold מאותו ארגון. המטרה כאן היא לקחת את תהליך החשיבה של מודלי היסק ולהשתמש בו כדי לבנות עלילה, לנהל דמויות מורכבות ולהיצמד להנחיות סגנון בלי לקבל טקסטים גנריים.

בניגוד למודלי היסק רגילים שמכוונים בעיקר לקוד ומתמטיקה, כאן תגיות החשיבה מוקדשות לפירוק של סצנות, שמירה על קול של דמויות משנה וקריאה של ספרי עולם. היוצרים מציעים להזין התחלה מובנית לחשיבה כדי לכוון את הפלט לסגנון הרצוי, כמו כתיבה של רומן קל, ולקבל גיוון לצד עקביות.

מתאים ל

• משחקי תפקידים מבוססי טקסט

  שומר על אופי הדמויות וזוכר מושגים מורכבים מתוך כרטיסי מידע.

• כתיבה יוצרת עם חשיבה

  מנצל את תגיות ההיסק כדי לפרק את הסצנה ולתכנן את העלילה.

• ניהול דמויות משנה

  משלב מספר דמויות בפועל בתוך הסצנה לפי ההקשר שהוגדר.

איפה זה נופל

המודל עדיין סובל מחוסר יציבות בתשובות. חלק מהתגובות יוצאות יבשות, משעממות, או חורגות מהאופי של הדמות, ולפעמים הוא מנסה לדבר בשם המשתמש. בנוסף, יש מי שציין צנזורה שהופכת דמויות קיצוניות למאולפות מדי ופחד מסוים מסטייה מהקווים. אם אתם בונים מוצר שדורש אמינות עובדתית, יכולות החשיבה כאן לא נבדקו במדדים רשמיים אלא בבדיקות ידניות של שיחה.

איך מריצים

המשקל הכולל של הקבצים עומד על 61.0 גיגה בייט בפורמט bfloat16, כך שאין שום אפשרות להריץ אותו כמו שהוא על כרטיס ביתי יחיד. תצטרכו לחלק אותו בין שני כרטיסי מסך מתאימים או לעבור לגרסאות מקוונטטות כדי לדחוס אותו לחומרה צנועה יותר.

היוצרים מציינים שהשתמשו בתבנית ChatML, עם טמפרטורה של 0.9, min_p של 0.05, וחזרתיות מתונה. אם אין לכם שרת ייעודי פנוי שמחזיק מודל כזה, הקמה ותחזוקה שלו עבור כתיבה מזדמנת לא ישתלמו מול שירות חיצוני.

from transformers import pipeline

pipe = pipeline("text-generation", model="trashpanda-org/QwQ-32B-Snowdrop-v0")
print(pipe("שלום"))

הקבצים

18 קבצים במאגר, 61.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00007.safetensors9.9 GB
• model-00002-of-00007.safetensors9.8 GB
• model-00003-of-00007.safetensors9.8 GB
• model-00004-of-00007.safetensors9.8 GB
• model-00005-of-00007.safetensors9.8 GB
• model-00006-of-00007.safetensors9.8 GB
• model-00007-of-00007.safetensors6.8 GB
• tokenizer.json7.0 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json60.2 KB
• README.md9.7 KB
• tokenizer_config.json7.3 KB
• .gitattributes1.6 KB
• config.json756 B
• special_tokens_map.json613 B
• added_tokens.json605 B
• mergekitty_config.yml473 B

הרישיון

היוצרים לא ציינו רישיון בדף המודל. מבחינה משפטית, היעדר רישיון אומר שאין לכם היתר שימוש מוגדר, ואי אפשר לדעת אם מותר לשלב אותו במוצר מסחרי. לפני שמשקיעים בו, צריך לקחת בחשבון את הסיכון או לחכות לעדכון מהמפרסמים.

הרישיון המלא בעמוד המודל ↗