Llama-3.1-8B-Lexi-Uncensored-V2-GGUF
קוד פתוחOrengutengllama3.12024-08-09
גרסה לא מצונזרת של לאמה 3.1 בגודל שמונה מיליארד פרמטרים בפורמט מכווץ. היא עונה על כל בקשה בלי לסרב, בדיוק איפה שדגמים רגילים נחסמים.
- 32.5 GBמשקל הקבצים
- 8,204הורדות בחודש
- 236לייקים
מה זה
מדובר באימון המשך על בסיס הגרסה הרשמית של מטא, שהמטרה העיקרית שלו היא להסיר את מנגנוני הסירוב המובנים. המפתח מעיד שהגרסה השנייה צייתנית וחכמה יותר מקודמתה, והיא עונה כמעט לכל הנחיה, כולל בקשות שנויות במחלוקת. המודל דורש שימוש בתבנית השיחה המקורית של לאמה וחייב טוקנים של מערכת כדי לעבוד תקין, אפילו אם שמים בהם רק נקודה.
במבחני ביצועים רשמיים הוא מציג תמונה מעורבת. במבחן ציות להוראות הוא קיבל ציון גבוה יחסית של 77.92, מה שמסביר למה הוא מבצע משימות בדיוק לפי הדרישות. מנגד, במבחנים של חשיבה מורכבת וידע עמוק הציונים נמוכים מאוד, עם ממוצע כולל של 27.93 בלבד וציון של 4.36 במבחן ידע כללי קשה. זה אומר שהוא יעשה בדיוק מה שתגידו לו, אבל הוא לא מיועד לפתור בעיות מדעיות או מתמטיות מסובכות.
מתאים ל
- כתיבה חופשית ללא מגבלות
מתאים ליצירת טקסטים או דיאלוגים שהיו נחסמים במודלים מסחריים רגילים.
- ביצוע פקודות מדויק
הציון הגבוה בבדיקת ההוראות הופך אותו ליעיל בעיבוד טקסט לפי פורמט קשיח.
- מחקר על מנגנוני סירוב
בדיקת התנהגות של מודל פתוח מול הנחיות קיצוניות בתנאי מעבדה.
איפה זה נופל
הבעיה המרכזית היא חוסר שיקול דעת מוחלט. המודל יענה על הכל, כולל דברים לא אתיים, ולכן אם חושפים אותו למשתמשי קצה חובה לבנות שכבת הגנה חיצונית. בנוסף, הדחיסה הבסיסית פוגעת בתכונה הכי חשובה שלו וגורמת לסירובים, ויכולות החשיבה שלו במתמטיקה ובמדעים פשוט חלשות.
אותה משפחה
Llama-3.1-8B-Lexi-Uncensored יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
איזו גרסת קובץ כדאי להוריד?
עדיף להוריד את גרסת שמונה ביט או את הגרסה המלאה. המפתח מזהיר שבגרסת ארבעה ביט המודל חוזר לסרב לבקשות בגלל איבוד נתונים בכיווץ.
איך לגרום לו לענות בלי שום התנגדות?
המפתח ממליץ לשים בהודעת המערכת בקשה לחשוב צעד אחר צעד עם היגיון. אם אתם רוצים תשובות חופשיות לגמרי, אפשר פשוט לשים נקודה בודדת כהודעת מערכת.
איך מריצים
המודל מגיע בפורמט מכווץ להרצה מקומית, אבל יש איתו עניין טכני שחייבים להכיר. המפתח מציין שבגרסת הדחיסה הקלה של ארבעה ביט נפגע האימון המקורי, והמודל נוטה לפעמים לחזור לסרב לבקשות. ההמלצה שלו היא להריץ את גרסת שמונה ביט או את הגרסה המלאה כדי לשמור על האופי הלא מצונזר.
גרסאות כאלה דורשות כרטיס מסך עם מספיק זיכרון כדי להחזיק בין שמונה לשישה עשר גיגה, תלוי ברמת הדחיסה שתבחרו. אם אין לכם חומרה ייעודית מקומית ואתם רק צריכים תשובות ישירות בלי צנזורה פה ושם, עדיף להשתמש בשרת ענן שכבר מחזיק תשתית מתאימה במקום להוריד עשרות גיגות של קבצים.
ollama run hf.co/Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2-GGUF:Llama-3.1-8B-Lexi-Uncensored_V2_Q5
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
6 קבצים במאגר, 32.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון הוא רישיון הקהילה של מטא עבור לאמה 3.1. מותר להשתמש בו לצרכים מסחריים ופרטיים, כל עוד עומדים בתנאים של מטא לגבי היקף המשתמשים ודרישות ההפצה, והאחריות על התוכן שנוצר חלה כולה על מי שמריץ אותו.
- שימוש מסחרי עד 700 מיליון משתמשים
- שינוי הקוד
- חובת ייחוס