GPT
הוספת כלי
D

DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored

קוד פתוח

aifeifei798llama3.12024-07-27

  • transformers
  • safetensors
  • llama
  • text-generation
  • roleplay

גרסה פתוחה לחלוטין של מודל שמונה מיליארד פרמטרים, שהוסרו ממנה מנגנוני הסירוב הרגילים. מתאים למי שרוצה משחקי תפקידים וכתיבה חופשית בלי שהמערכת תטיף לו מוסר.

  • 8Bפרמטרים
  • 131,072טוקנים בהקשר
  • 15.0 GBמשקל הקבצים
  • 625הורדות בחודש

מה זה

הבסיס כאן הוא מודל שמונה מיליארד של מטא, שעבר הסרה של שכבות הסירוב באמצעות טכניקות מחיקת כיווני סירוב וכוונון על דאטה־סטים קהילתיים כמו של Lumimaid ו־Gryphe. המטרה של מי שיצר אותו הייתה לייצר כלי שמסוגל לענות על כל הנחיה, בדגש על משחקי תפקידים מורכבים, כתיבה יצירתית ארוכה ויצירת פרומפטים בלי מחסומים.

ההבדל המרכזי מול המודל המקורי של מטא הוא בהיעדר מוחלט של מעצורים ובשינוי הטון. בעוד שהדגם הרשמי נוטה לסרב לשאלות גבוליות או לנושאים רגישים, הגרסה הזו מגיבה ישירות. למרות שהמשקל המקורי כולל את כל יכולות הקוד וההיגיון של הארכיטקטורה, הכוונון כאן הוטה בכוונה לעבר סגנון ספרותי, תיאורי ולעיתים דרמטי מאוד, כולל ניסיונות התאמה לשפות אסיאתיות.

מתאים ל

  • משחקי תפקידים וכתיבה

    הוא אומן במיוחד על תרחישי שיחה מורכבים וחופשיים ללא מעצורי תוכן או סירובים.

  • בדיקות חוסן ועקיפת הגנות

    משמש כלי בדיקה למחקר על התנהגות מודלים ששכבות ההגנה והסירוב הוסרו מהם לחלוטין.

  • מחולל פרומפטים וטקסט ארוך

    מייצר פלטים מפורטים וסגנון כתיבה עשיר שנבנה במיוחד ליצירת סיפורים ותכנים ללא הגבלה.

איפה זה נופל

היוצר מציין במפורש שהבדיקות בוצעו באנגלית בלבד. עברית לא נבדקה ולא מובטחת, וכנראה תסבול מאיכות ירודה. מעבר לכך, הכרטיס מזהיר מראש שהתשובות מיועדות למטרות למידה ובדיקה, שגיאות בפלט הן בלתי נמנעות, ואסור להסתמך על המידע בלי בדיקה ועריכה אנושית. המודל אינו כולל שום שכבת בטיחות, ולכן הוא ייצר תוכן לא הולם או שגוי אם יידרש לכך.

שאלות
נפוצות

האם המודל מתאים ליישום שמשרת לקוחות ישראלים בעברית?

לא מומלץ. היוצר מבהיר שהמודל נבדק באנגלית בלבד, ולמרות שלארכיטקטורה הבסיסית יש יכולות מסוימות, הכוונון הספציפי והסרת המחסומים לא עברו בדיקות בעברית.

מה המשמעות של Uncensored בהקשר הזה?

המודל עבר תהליך שביטל את וקטור הסירוב הפנימי של הרשת. כתוצאה מכך הוא לא מסרב לבקשות שלרוב נחסמות במודלים מסחריים, ומגיב לכל פרומפט ישירות.

האם אפשר להריץ אותו מקומית על מחשב נייד רגיל?

את המשקלים המקוריים של 15 גיגה קשה להריץ בלי כרטיס גרפי ייעודי חזק. בשביל מחשב רגיל עדיף להוריד את אחת מגרסאות ה־GGUF המכווצות שהקהילה יצרה.

איך מריצים

כדי להריץ אותו במבנה המקורי של bfloat16 צריך כרטיס מסך עם לפחות 16 עד 24 גיגה זיכרון וידאו, למשל RTX 3090 או כרטיס שרת מקביל, כי המשקלים תופסים 15 גיגהבייט. ההרצה נעשית ישירות דרך ספריית transformers עם פקודת pipeline סטנדרטית, בגרסה 4.43.1 ומעלה.

אם אין לכם חומרה כזו, יש למודל גרסאות מכווצות בפורמט GGUF שהוכנו על ידי משתמשי קהילה. גרסאות אלו מאפשרות לטעון אותו בכלים קלים כמו LM Studio או Ollama, ואפילו להריץ אותו על מחשבים אישיים ומכשירים ניידים תוך שימוש במעבד ובזיכרון המערכת הרגיל.

from transformers import pipeline

pipe = pipeline("text-generation", model="aifeifei798/DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored")
print(pipe("שלום"))

הקבצים

21 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא רישיון הקהילה של Llama 3.1 מבית מטא. הוא מאפשר שימוש מסחרי ומחקרי, כל עוד עומדים במדיניות השימוש המקובלת של מטא ומספר המשתמשים הפעילים בחודש אינו חורג ממאות מיליונים. עם זאת, היוצר הוסיף אזהרה לפיה אם אתם משתמשים בפלטים במוצר, עליכם לערוך אותם, אחרת האחריות לכל נזק נופלת עליכם בלבד.

  • שימוש מסחרי עד 700 מיליון משתמשים
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא בעמוד המודל ↗