Assistant_Pepe_8B

מה זה

המודל הזה נבנה על גבי גרסה מורחבת הקשר של Llama 3.1 Nemotron שעברה תהליך הסרת צנזורה. המטרה של היוצר הייתה לשלב בין יכולת טכנית אמיתית, כמו כתיבת קוד של משחק סנייק פועל בפייתון, לבין סגנון דיבור שמחקה את תרבות האינטרנט של פורומים כמו פורום g. הוא כולל הטיה שלילית מכוונת, כך שבמקום להחמיא למשתמש על כל רעיון הוא מגיב בעוקצנות ובלעג.

ברמת הצנזורה הוא מדורג בכרטיס בציון של 8.8 מתוך 10, כלומר רמת סינון נמוכה מאוד עד כמעט אפסית. המודל מתבסס על ארכיטקטורת Llama 3 עם תבנית ההוראות הרגילה שלה, ולא דורש הנחיית מערכת כדי להיכנס לדמות. היוצר שחרר במקביל גם גרסאות של 32 מיליארד ו־70 מיליארד פרמטרים לאותה מטרה.

מתאים ל

• בוט שיחה עוקצני

  מתאים למי שרוצה בוט שלא מנומס ומדבר בסלנג אינטרנטי ציני במקום תשובות תאגידיות סטנדרטיות.

• יצירת סיפורים ומשחקי תפקידים

  הסרת הצנזורה והסגנון החופשי מאפשרים כתיבה יצירתית ללא החסימות הרגילות של מודלים סגורים.

• עוזר פיתוח בסגנון לא רשמי

  מספק קוד עובד למשימות פשוטות תוך העברת ביקורת ישירה ולעגנית על הבקשות שלכם.

איפה זה נופל

הבעיה הבולטת ביותר היא הנטייה של המודל להיכנס ללולאות של כתיבת greentext, בעיה שהיוצר מודה בה ישירות כתוצאה מאימון יתר. בנוסף, רמת הסינון הנמוכה והסגנון התוקפני גורמים לו לגלוש בקלות לתאוריות קונספירציה מופרכות, טקסטים מביכים ורעילות.

הוא מוגדר לשפה האנגלית בלבד, כך שאין לצפות ממנו לתפקוד סביר בעברית. אל תכניסו אותו לשום ממשק לקוחות או שירות שדורש אמינות, נימוס ודיוק עובדתי.

אותה משפחה

Assistant-Pepe יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל המלא בדיוק של 16 ביט שוקל 15 ג'יגה בייט, ולכן הרצה שלו דורשת כרטיס מסך עם לפחות 16 עד 24 ג'יגה בייט של זיכרון וידאו. אם רוצים להריץ אותו מקומית על חומרה צנועה יותר או על מעבדי ARM, קיימים קישורים לגרסאות מכווצות בפורמט GGUF וגרסאות 8 ביט ו־4 ביט שמורידות את צריכת הזיכרון באופן משמעותי.

מי שאין לו כרטיס גרפי מתאים יצטרך לפנות לשרת ענן ייעודי להרצת מודלים פתוחים. היוצר מציין שהמודל עובד הכי טוב עם דגימת min_p או הגדרות דיבאג דטרמיניסטיות, ללא צורך בהגדרת פרומפט מערכת מיוחד.

pip install -U huggingface_hub
hf download SicariusSicariiStuff/Assistant_Pepe_8B

הקבצים

22 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00004.safetensors5.0 GB
• model-00001-of-00004.safetensors5.0 GB
• model-00003-of-00004.safetensors4.9 GB
• model-00004-of-00004.safetensors1.2 GB
• tokenizer.json17.2 MB
• Images/Examples/code.png5.5 MB
• Images/Assistant_Pepe_8B.png3.6 MB
• Images/Examples/log2.png2.4 MB
• Images/Examples/log3.png1.7 MB
• Images/Examples/log0.png1.0 MB
• Images/Examples/log4.png1.0 MB
• Images/Examples/log1.png931.2 KB
• Images/UGI.png297.3 KB
• tokenizer_config.json50.7 KB
• model.safetensors.index.json24.0 KB
• README.md14.9 KB
• Example_Code/snake.py6.3 KB
• .gitattributes2.1 KB
• config.json926 B
• chat_template.jinja485 B
• special_tokens_map.json444 B
• generation_config.json142 B

הרישיון

הרישיון המדווח הוא llama3.1 של חברת מטא. הרישיון הזה מתיר שימוש מסחרי ומחקר באופן חופשי לרוב המשתמשים, אך כולל מגבלות ספציפיות לחברות ענק עם מאות מיליוני משתמשים פעילים, ודורש שמירה על תנאי השימוש המקוריים של מטא.

• שימוש מסחרי עד 700 מיליון משתמשים
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗