WizardLM-13B-Uncensored
קוד פתוחQuixiAIother2023-05-09
גרסה נטולת סינון של וויזארד שנועדה לענות על כל פקודה בלי להטיף מוסר. מורידים אותה כשרוצים בסיס פתוח לחלוטין שעליו אפשר להלביש התאמות משלכם.
- 2,048טוקנים בהקשר
- 24.2 GBמשקל הקבצים
- 296הורדות בחודש
- 674לייקים
מה זה
מדובר במודל שנוצר על בסיס סט הנתונים של וויזארד, אבל אחרי ניקוי יסודי של תשובות שכללו הטפות מוסר או מנגנוני יישור קו. הרעיון כאן הוא לקבל מודל שמגיב לבקשות ישירות בלי לסרב או לחנך את המשתמש, כדי שתוכלו להוסיף לו יישור קו משלכם אחר כך, למשל בעזרת לורה מותאמת.
הוא מבוסס על ארכיטקטורת לאמה עם ארבעים שכבות וחלון הקשר של אלפיים ארבעים ושמונה טוקנים. זה אומר שאי אפשר להעמיס עליו שיחות ענק או מסמכים שלמים, אבל הוא מתאים לפקודות ממוקדות שבהן מודלים מסחריים רגילים נוטים לחסום אתכם או להחזיר סירובים מיותרים.
מתאים ל
- אימון שכבות יישור אישיות
בסיס נקי ממנגנוני מוסר שמאפשר להלביש עליו התנהגות מותאמת מאפס.
- מחקר על מודלים לא מסוננים
בדיקת התנהגות של מודל פתוח שלא עובר התערבות בתשובות.
- כתיבה ללא חסימות אוטומטיות
יצירת טקסטים בנושאים שמודלים רגילים מסרבים לגעת בהם.
איפה זה נופל
אין למודל הזה שום מעקות בטיחות. היוצר מבהיר שהאחריות על כל פלט היא עליכם בדיוק כמו שימוש באקדח או סכין, ופרסום של הטקסטים שקול לפרסום שלכם. הוא עלול לפלוט תוכן רעיל או בעייתי בלי שום סינון. בנוסף, חלון ההקשר קצר מאוד, רק אלפיים ארבעים ושמונה טוקנים, כך שהוא ישכח מהר את תחילת השיחה.
שאלות
נפוצות
האם המודל יסרב לבקשות שנויות במחלוקת?
לא. הסירובים והטפות המוסר הוסרו מסט הנתונים בזמן האימון. הוא יענה על מה שתבקשו, ולכן כל הסיכון והאחריות על התוצאות נשארים אצלכם בלבד.
כמה זיכרון דרוש כדי לטעון אותו?
המשקלים לבדם שוקלים עשרים וארבעה נקודה שניים גיגהבייט. תצטרכו כרטיס מסך עם נפח זיכרון שעולה על הגודל הזה כדי להריץ אותו בדיוק המקורי שלו.
איך מריצים
אתם צריכים מקום פנוי של מעל עשרים וארבעה גיגהבייט רק כדי לשמור את אחד עשר הקבצים שלו. ההרצה נעשית דרך ספריית טרנספורמרס בדיוק של פלוט שש עשרה, מה שדורש כרטיס מסך עם זיכרון גרפי גדול מספיק להחזקת כל המשקלים האלה בבת אחת.
אם אין לכם חומרה חזקה ייעודית מקומית, עדיף להרים שרת ענן לפי שעה או להשתמש בנקודת קצה מרוחקת. להוריד קבצים במשקל כזה למחשב רגיל בלי מאיץ מתאים פשוט יתקע לכם את הזיכרון.
from transformers import pipeline
pipe = pipeline("text-generation", model="QuixiAI/WizardLM-13B-Uncensored")
print(pipe("שלום"))הקבצים
11 קבצים במאגר, 24.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון מוגדר בתור אחר, בלי פירוט של תנאי שימוש ברורים בכרטיס. במצב כזה אי אפשר להניח שמותר להשתמש בו במוצר מסחרי. מי שרוצה להפיץ אותו באפליקציה ציבורית לוקח סיכון משפטי מעבר לאחריות המלאה על הפלטים.