L3.1-Dark-Planet-SpinFire-Uncensored-8B-GGUF

קוד פתוח

DavidAUapache-2.02024-11-08

gguf
creative
creative writing
fiction writing
plot generation

עיבוד לא מצונזר על בסיס Llama 3.1 שנועד לכתיבה יוצרת אפלה, אימה ומשחקי תפקידים. הוא עוקף את החסימות הרגילות ומספק פרוזה גרפית בלי להטיף מוסר.

64.9 GBמשקל הקבצים
2,919הורדות בחודש
46לייקים

מה זה

מדובר במיזוג של כמה מודלים קהילתיים על בסיס ארכיטקטורת Llama 3.1, שנבנה במטרה להסיר לחלוטין את מגבלות התוכן המובנות של מטא. הטקסטים שהוא מייצר נוטים לאלימות, קללות, אימה גרפית ותכנים קשים, כאשר רמת הסינון נקבעת רק לפי ההנחיה שתכתבו לו. הכרטיס מדווח על מדד פרפלקסיטי נמוך יותר מגרסת המקור של מטא, מה שאמור להעיד על דיוק תחבירי גבוה וזרימה טובה יותר של המשפטים באנגלית.

היוצר דחס אותו כך שהוא מגיב באופן יציב לטווח רחב של ערכי טמפרטורה, בין 0 ל־5. הוא נבנה לכתיבה ארוכה יחסית וכולל נטייה טבעית לטון פסימי או קודר, אלא אם תורו לו במפורש לפעול אחרת. אם חיפשתם מודל לעוזר וירטואלי משרדי, זה ממש לא הכיוון.

מתאים ל

סיפורי אימה ומתח
מייצר תיאורים גרפיים מפורטים ואווירה קשה בלי לחסום מילים גסות או סצנות אלימות.
משחקי תפקידים למבוגרים
מאפשר שיחות ארוכות ללא צנזורה שמתמודדות עם דמויות מורכבות ותכנים לא מצוחצחים.
כתיבת פרוזה עשירה בפרטים
מתאים לכותבים שמחפשים יצירת סצנות עם דגש על חושים ודיאלוגים ישירים ללא התערבות מוסרית.

איפה זה נופל

המודל מגיע עם נטייה שלילית מובנית שמייצרת עלילות עגומות, וקשה לפעמים להוציא ממנו סוף טוב בלי הנחיות נוקשות. בערכי טמפרטורה גבוהים הוא נוטה להתעלם מהוראות בסיסיות, ובדחיסות נמוכות כמו Q2_K או Q3 הוא מתחיל להינזק ודורש הורדה של הטמפרטורה מתחת ל־1. שימוש בפיצ'רים כמו Context Shift או מנגנוני RoPE בתוכנות ההרצה עלול להשחית לחלוטין את הפלט ולהוביל לג'יבריש. בנוסף, הוא עדיין פולט פה ושם ניסוחים טיפוסיים של GPT למרות ניסיונות הניקוי.

שאלות
נפוצות

האם אפשר להשתמש בו עבור סיפורים רגילים ללא אלימות?

כן, רמת הבוטות נקבעת ישירות בפרומפט. אם לא תבקשו קללות או אימה, הוא ייצר פרוזה רגילה, אם כי עדיין יש לו נטייה לטון עגום וקודר בהשוואה למודלים סטנדרטיים.

למה הטקסט מתחיל לחזור על עצמו בסוף הפסקה?

המודל דורש הגדרה ידנית של פרמטר ענישת החזרות לקראת 1.05 ומעלה. אם הערך נמוך מדי, הוא עלול לשכפל פסקאות שלמות לקראת סוף היצירה.

איזו תבנית פרומפט מתאימה לו?

הוא נבנה לפי התבנית הסטנדרטית של Llama 3, אך לפי המפתח הוא עובד היטב גם עם התבנית של Command-R, שמפיקה סגנון כתיבה שונה לחלוטין.

איך מריצים

כדי להריץ אותו צריך ממשק שתומך בקובצי GGUF כמו KoboldCpp או SillyTavern. הגודל המקורי עומד על 8B פרמטרים, כך שגרסאות מכווצות כמו Q4_K_M ירוצו בקלות על כרטיס מסך בודד עם 8GB זיכרון ייעודי, בעוד קבצים ברמת דיוק של Q8 ידרשו לפחות 12GB זיכרון כדי לא לזלוג לזיכרון המערכת.

אם יש לכם מחשב עם מעבד ARM, המאגר כולל קבצים ייעודיים לכך, אך שימוש בהם על מעבד רגיל יפגע קשות בקצב יצירת הטוקנים. אין שירותי ענן שמציעים את המודל הזה כ־API מוכן, ולכן ריצה מקומית על החומרה שלכם היא הדרך המעשית היחידה להשתמש בו.

ollama run hf.co/DavidAU/L3.1-Dark-Planet-SpinFire-Uncensored-8B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

Q8_08.5 GB Q6_K6.6 GB Q5_K_M5.7 GB Q5_K_S5.6 GB Q4_K_M4.9 GB Q4_K_S4.7 GB Q4_0_4_44.7 GB Q4_0_4_84.7 GB Q4_0_8_84.7 GB IQ4_XS4.5 GB Q3_K_L4.3 GB Q3_K_M4.0 GB Q3_K_S3.7 GB Q2_K3.2 GB

הקבצים

17 קבצים במאגר, 64.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא apache-2.0, שמאפשר שימוש חופשי, שינוי קוד והפצה מסחרית ללא תמלוגים. עם זאת, המודל מבוסס על שילוב של מודלים קהילתיים שונים ומשקלי Llama, ולכן לפני הטמעה במוצר מסחרי כדאי לבדוק את הרישיונות של רכיבי המקור שמוזגו לתוכו.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗