Roleplay-Llama-3-8B

מה זה

מדובר במודל לאמה 3 שעבר כוונון עדין ספציפי על דאטה-סט בשם NSFW_RP_Format_DPO, במטרה לייצר פלט במבנה קבוע של דיבור ופעולות בין כוכביות. הוא דורג שני בדירוג הכללי של Chaiverse לפי מדד ELO, וראשון מבין המודלים בקטגוריית הגודל שלו. זה אומר שבשיחות ומשחקי תפקידים הוא מייצר חוויית שיחה משכנעת יחסית למתחרים באותו משקל.

מצד שני, מבחני הבנצ'מרק של Open LLM מציגים ממוצע כללי נמוך של 24.33. היכולת שלו לעקוב אחרי הוראות פשוטות בסיסית וטובה עם 73.20 ב־IFEval, אבל המבחנים שבודקים ידע והסקה כבדה מראים תוצאות חלשות מאוד. הוא נבנה לסגנון שיחה מסוים ולא כדי לפתור חידות היגיון.

מתאים ל

• בוטים למשחקי תפקידים

  פולט דיאלוגים לצד פעולות מובנות בין כוכביות, בדיוק בסגנון שדרוש לסיפור אינטראקטיבי.

• דמויות וירטואליות עלילתיות

  מתברג גבוה במבחני שיחה ואינטראקציה מול משתמשים ביחס לגודל שלו.

• בדיקת ממשקי שיחה לא מצונזרים

  עבר התאמה על מאגרי שיחה חופשיים ללא מגבלות נוקשות על התוכן.

איפה זה נופל

המודל אומן על דאטה שכולל תכני NSFW ופורמט הדוק מאוד של דיאלוג ופעולות, ולכן הוא לא מתאים בשום אופן לשימושים עסקיים כלליים, תמיכה טכנית או מענה רשמי. המספרים מראים קריסה מוחלטת ביכולות מדעיות ומתמטיות, עם 8.69 בלבד במתמטיקה ו־1.45 ב־GPQA. כל משימה שדורשת דיוק עובדתי, שליפת מידע אמין או קוד פשוט תסתיים בהזיות.

איך מריצים

המשקל עומד על 15 ג'יגה בייט בפורמט float16, כך שצריך כרטיס מסך עם לפחות 16 עד 24 ג'יגה זיכרון כדי להריץ אותו מקומית בלי קוונטיזציה. אפשר להעלות אותו ישר דרך ספריית transformers בסביבת פייתון רגילה.

אם אין לכם חומרה ייעודית זמינה, להחזיק שרת כזה בענן בשביל כמה בדיקות יהיה יקר מדי. במקרים כאלה עדיף לבדוק אם יש שירותי API שמארחים אותו לפי שעה או לפי טוקנים, לפני שמתחייבים לתשתית עצמאית.

from transformers import pipeline

pipe = pipeline("text-generation", model="vicgalle/Roleplay-Llama-3-8B")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00004.safetensors5.0 GB
• model-00001-of-00004.safetensors5.0 GB
• model-00003-of-00004.safetensors4.9 GB
• model-00004-of-00004.safetensors1.2 GB
• tokenizer.json9.1 MB
• tokenizer_config.json51.0 KB
• model.safetensors.index.json23.9 KB
• README.md5.0 KB
• .gitattributes1.5 KB
• config.json706 B
• special_tokens_map.json301 B
• generation_config.json143 B

הרישיון

הרישיון הוא apache-2.0, רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי והפצה של המודל. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, בלי להטיל אחריות משפטית על היוצר.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗