Xwin-MLewd-13B-V0.2-GGUF
קוד פתוחUndi95cc-by-nc-4.02023-10-14
מיזוג של מודלי 13B שמיועד במפורש לכתיבת תוכן מיני, גס ובוטה בלי צנזורה. מורידים אותו כשרוצים מודל מקומי לרולפליי שלא ידחה בקשות.
- 45.7 GBמשקל הקבצים
- 25,518הורדות בחודש
- 56לייקים
מה זה
מדובר במיזוג מסוג slerp בין Xwin-LM בגרסה 0.2 לבין MLewd בגרסה 2.4, כשהשילוב כולל שורה ארוכה של מתאמים ומודלים ממוקדי כתיבה יוצרת, משחקי תפקידים ותוכן למבוגרים כמו Pygmalion ו־LimaRP. היוצר Undi95 בנה אותו מתוך מטרה לייצר פלטים חסרי מעצורים, והוא מציין במפורש בדף המודל שהתוכן יהיה מיני ובוטה.
במקום לנסות להיות עוד עוזר חכם למשימות כלליות, כל השכבות שלו כוונו למשחקי תפקידים ולדיאלוגים מורכבים. הוא מסתמך על תבנית הפרומפט של Alpaca, כך שקל לשלב אותו בכלים קיימים שתומכים בפורמט הזה. אין כאן מבחני ביצועים רשמיים, מהסיבה הפשוטה שמודלים מהסוג הזה נמדדים לפי היכולת לשמור על אופי וסגנון לאורך טקסטים ארוכים ולא לפי פתרון בעיות במתמטיקה.
מתאים ל
- משחקי תפקידים למבוגרים
הוא אומן על שלל ספריות רולפליי כדי לייצר אינטראקציות ודיאלוגים מיניים ללא צנזורה.
- כתיבת סיפורים ללא סינון
שילוב המודלים מתמקד בכתיבה יוצרת שלא עוצרת מול תיאורים גרפיים או שפה בוטה.
- הרצה מקומית ומבודדת
פורמט ה־GGUF מאפשר להריץ את התוכן הזה בדיסקרטיות מלאה על חומרה אישית.
איפה זה נופל
המודל הזה לא נועד לעבודה משרדית, כתיבת קוד או תמיכה טכנית. הוא עלול לפלוט תוכן מיני או בוטה גם בהקשרים תמימים לחלוטין, כי המשקולות שלו מבוססות על שרשרת ארוכה של מודלים שמיועדים רק לזה. בנוסף, מודלי 13B ישנים יחסית נוטים לאבד עקביות בשיחות ארוכות במיוחד, ואין שום ערובה ליכולות שלו בעברית שסביר להניח שבורה למדי.
אותה משפחה
Xwin-MLewd יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
האם המודל מתאים לשימוש כעוזר אישי או לכתיבת קוד?
לא. הוא עבר מיזוגים מרובים של מודלים שמטרתם הבלעדית היא תוכן מיני ומשחקי תפקידים. שימוש בו למשימות יומיומיות יניב תוצאות פחות מדויקות ועלול להוביל לפלטים גסים ולא הולמים.
איזה פרומפט צריך לשלוח לו כדי שיעבוד כמו שצריך?
המודל מוגדר לעבודה עם תבנית Alpaca סטנדרטית. יש לשלוח את ההוראה תחת תגית Instruction ואת ההמשך תחת תגית Response כדי לשמור על המבנה שאליו הוא אומן.
איך מריצים
הקבצים שוקלים יחד 45.7 גיגה בייט ומחולקים ל־7 קבצי GGUF, כך שהם מיועדים להרצה מקומית דרך ספריות כמו llama.cpp. כדי להריץ גרסת 13B מכווצת בנוחות תצטרכו לפחות 10 עד 16 גיגה בייט של זיכרון כרטיס מסך, תלוי ברמת הקוונטיזציה שתבחרו, או כמות יפה של זיכרון מערכת אם אתם מוכנים לספוג ירידה במהירות הפליטה.
אין כאן ממשקי ענן מסחריים מובנים, וסביר להניח ששירותי API רגילים של חברות גדולות חוסמים מראש את סוג התוכן שהמודל הזה נועד לייצר. אם המטרה היא להריץ תרחישים פרטיים בלי חסימות ובלי חשש ממעקב, הרצה עצמית על חומרה מקומית היא הברירה היחידה כאן.
ollama run hf.co/Undi95/Xwin-MLewd-13B-V0.2-GGUF:Q4_K_M
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
7 קבצים במאגר, 45.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון הוא CC BY-NC 4.0. המשמעות ברורה ופשוטה, אסור להשתמש במודל, במשקולות שלו או בתוצרים ישירים ממנו לשום מטרה מסחרית או עסק שמכניס כסף. זה מיועד אך ורק לשימוש אישי, למחקר או לפרויקטים עצמאיים ללא כוונת רווח, תוך מתן קרדיט מתאים ליוצר.
- שינוי הקוד
- חובת ייחוס
- שימוש מסחרי: לא