NSFW_13B_sft

מה זה

מדובר בכיוונון של Baichuan 13B Base שנעשה באמצעות LLaMA-Efficient-Tuning ומאגר נתונים ייעודי בשם instruct_nsfw_cn. המטרה המרכזית כאן ברורה לגמרי, יצירת תוכן ארוטי וכתיבה יצירתית ללא מנגנוני הסינון שמובנים במודלים מיינסטרימיים. הוא מיועד לשפה הסינית בלבד ואינו כולל התאמה לשפות אחרות.

במבחן CMMLU מול גרסת הצ'אט הרשמית של באיצ'ואן ו־ChatGPT, הוא קיבל ציון כללי של 50.42 לעומת 48.86 של באיצ'ואן צ'אט ב־zero-shot. במדעי הרוח והחברה הוא אפילו עקף מעט את ChatGPT עם ציונים של 54.85 ו־55.55. המספרים האלה מראים שהכיוונון לתוכן למבוגרים לא שבר את הידע הכללי וההבנה הלשונית שלו בסינית, אם כי ב־STEM הוא נשאר חלש עם 37.73 בלבד.

מתאים ל

• כתיבת ספרות ארוטית בסינית

  הוא אומן על טקסטים למבוגרים ומייצר סצנות מיניות מפורשות שהיו נחסמות מיד במודלים מסחריים אחרים.

• משחקי תפקידים ללא צנזורה

  משמש מנוע מאחורי בוטים או דמויות וירטואליות שמנהלות שיחות אינטימיות ללא סינוני תוכן.

• הבנת סלנג וביטויים בסינית

  הוא מציג יכולת טובה לפרק ולהסביר משפטים מורכבים וכפלי משמעות בשפה הסינית.

איפה זה נופל

הוא מוגדר ומכוון לסינית בלבד, כך שאין מה לנסות להפיק ממנו עברית או אנגלית ברמה סבירה. היכולות המדעיות והטכניות שלו נמוכות מאוד לפי המבחנים, ולכן הוא לא מתאים לשום משימה של פתרון בעיות או ניתוח נתונים. בנוסף, אין לו מנגנוני בטיחות כלל, והוא מפיק תכנים מיניים מפורשים לפי דרישה ללא שום בקרה.

איך מריצים

כדי להריץ אותו צריך לפרוק 24.7 ג'יגה בייט של משקולות בדיוק float16 דרך ספריית transformers. זה דורש כרטיס מסך עם לפחות 24 ג'יגה בייט של זיכרון גרפי, כמו RTX 3090 או A10, רק כדי לטעון אותו לפני שמתחילים לייצר טקסט. קוד הטעינה מחייב שימוש בפרמטר שמאפשר הרצת קוד מרוחק מהמאגר.

אם אין לכם חומרה ייעודית מתאימה מקומית, תצטרכו לשכור שרת ענן עם מעבד גרפי מתאים. אין לו גרסאות מכווצות מובנות במאגר, ואפשר להריץ אותו גם ישירות דרך ממשק שורת פקודה שמבוסס על סקריפטים של כלי האימון שלו.

from transformers import pipeline

pipe = pipeline("text-generation", model="zxbsmk/NSFW_13B_sft")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 24.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model-00001-of-00003.bin10.0 GB
• pytorch_model-00002-of-00003.bin9.9 GB
• pytorch_model-00003-of-00003.bin6.6 GB
• tokenizer.model1.1 MB
• modeling_baichuan.py24.5 KB
• pytorch_model.bin.index.json23.3 KB
• quantizer.py21.1 KB
• tokenization_baichuan.py8.7 KB
• README.md5.3 KB
• .gitattributes1.5 KB
• configuration_baichuan.py1.5 KB
• tokenizer_config.json980 B
• config.json882 B
• special_tokens_map.json544 B
• generation_config.json132 B

הרישיון

הרישיון המדווח הוא אפאצ'י 2.0. ברישיון הזה מותר להשתמש בקוד ובמשקולות לצרכים מסחריים ופרטיים, לשנות אותם ולהפיץ הלאה, בתנאי ששומרים על הודעת זכויות היוצרים ומצרפים עותק של הרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗