Llama-3-8B-Lexi-Uncensored-GGUF
קוד פתוחOrengutengother2024-04-23
גרסה נטולת סינונים של לאמה 3 בגודל שמונה מיליארד פרמטרים בפורמט מכווץ. היא עונה על כל בקשה שתזרקו עליה בלי להטיף מוסר או לסרב לפקודות.
- 32.8 GBמשקל הקבצים
- 13,170הורדות בחודש
- 254לייקים
מה זה
מדובר בהמרה לפורמט GGUF של כוונון מבוסס Llama-3-8B-Instruct, שמטרתו המרכזית היא ביטול מגבלות הבטיחות המקוריות של מטא. אם יצא לכם לעבוד עם המודל הרגיל וחטפתם סירובים על נושאים רגישים או שאלות מחקר, הגרסה הזו פשוט מבצעת את ההוראות בלי להתווכח. היא מיועדת למי שצריך ציות מוחלט מהמודל שלו.
ההבדל המשמעותי מול גרסאות רגילות של שמונה מיליארד פרמטרים מתבטא ברמת ההיענות. היוצר מבהיר שהמודל ישתף פעולה עם כל בקשה, כולל פניות לא אתיות, מה שהופך אותו לכלי גולמי שמתאים למחקר אבטחה, כתיבה חופשית או בדיקות פנימיות. אין בדף המודל מבחני ביצועים מספריים או ציונים רשמיים, כך שהיכולת הטכנית נשענת על בסיס לאמה 3 המקורי לטוב ולרע.
מתאים ל
- מחקר אבטחת מידע
בדיקת חולשות וסימולציות התקפה בלי שהמודל יסרב לייצר תרחישים רגישים.
- כתיבה יצירתית ללא צנזורה
יצירת דיאלוגים ודמויות מחוספסות בלי התערבות של מנגנוני בטיחות אוטומטיים.
- בדיקות אוטומציה פנימיות
בניית מערכות שדורשות ציות מוחלט לפקודות מערכת ללא שגיאות סירוב.
איפה זה נופל
המודל הזה מציית לכל דבר, כולל בקשות זדוניות ולא אתיות, בלי שום פילטר פנימי. אם אתם מחברים אותו ישירות למשתמשי קצה בלי שכבת סינון ובקרה משלכם, אתם חושפים את המוצר לפליטות מסוכנות ולנזק תדמיתי מיידי. היוצר מבהיר במפורש שכל האחריות על התוכן שנוצר מוטלת עליכם בלבד.
אותה משפחה
Llama-3-8B-Lexi-Uncensored יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
אפשר לחבר את המודל הזה ישר לשירות לקוחות?
לא מומלץ בכלל. הוא נטול סינונים ויענה בשמחה גם לפרומפטים פוגעניים או מסוכנים שיזינו לו מבחוץ. כדי להשתמש בו במוצר פומבי, תצטרכו להקים שכבת הגנה משלכם שתסנן את הפלטים.
חייבים להוריד את כל 32 הגיגה-בייט כדי להריץ אותו?
לא, המשקל הכולל מייצג את כל הקבצים שהועלו לפרויקט. אתם צריכים לבחור ולהוריד רק קובץ GGUF אחד שמתאים לרמת הדיוק ולנפח הזיכרון של המחשב שלכם.
איך מריצים
את קובצי ה־GGUF מריצים מקומית בעזרת llama.cpp, או דרך כלים כמו אוֹלָמָה ו־LM Studio. כל המשקלים יחד תופסים 32.8 גיגה-בייט שמחולקים לשישה קבצים, כך שתוכלו לבחור קובץ קוונטיזציה בודד שמתאים לגודל הזיכרון שלכם.
בשביל הרצה חלקה על כרטיס מסך בודד תצטרכו לרוב בין שמונה לשישה עשר גיגה-בייט של VRAM, תלוי ברמת הדחיסה של הקובץ שתורידו. אם אין לכם חומרה ייעודית או שאתם לא צריכים שרת מקומי שרץ ברקע כל הזמן, פנייה ל־API חיצוני פשוט תחסוך לכם תחזוקה, אלא אם ביטול הסינון הוא הדבר היחיד שחשוב לכם.
ollama run hf.co/Orenguteng/Llama-3-8B-Lexi-Uncensored-GGUF:Lexi-Llama-3-8B-Uncensored_Q5_K_M
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
6 קבצים במאגר, 32.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון מוגדר כ־other אבל כפוף ישירות לרישיון הקהילתי של Llama 3 מבית מטא. היוצר מאשר כל שימוש, כולל שימוש מסחרי, כל עוד אתם עומדים בכל התנאים והמגבלות שמטא הגדירה במקור.