חדש Key אחד לכל המודלים, עם הערכת מחיר לפני כל קריאה. יוצרים Key

GPT
C

Chinese-Roleplay-SingleTurn

קוד פתוח

LooksJuicyapache-2.02024-04-26

  • rp
  • character
  • roleplay
  • chinese
  • alpaca

מאגר שיחות חד-שלביות בסינית למשחקי תפקידים של דמויות אנימה. הוא נועד לאימון מודלים שצריכים לשמור על אופי עוקצני, דיאלוגים מותאמים ותגובות בגוף ראשון.

  • 109הורדות בחודש
  • 41לייקים

מה זה

הנתונים נבנו מתוך חיבור של שלושה מקורות שונים כדי לייצר שיחות חד-שלביות בפורמט Alpaca המוכר. המערכת השתמשה בתיאורי דמויות אנימה מתוך Refined-Anime-Text כהנחיית מערכת, לקחה שאלות משתמש אקראיות מתוך מאגר השיחות הסיני הישן של התרנגול הצהוב (xiaohuangji), והריצה עליהן מודל שפה פנימי שעבר אימון תפקידים ייעודי כדי לייצר את התשובה הסופית.

היוצר שחרר את החלק הזה של המידע לאחר שעבר לשיטות סינתוז נתונים מתקדמות יותר, במטרה למלא חוסרים קיימים בתחום משחקי התפקידים בסינית. בתוך הקובץ תמצאו רשומות המכילות הגדרת דמות ארוכה ועשירה ברקע, שאילתת משתמש קצרה, ותגובה שכוללת סוגריים עם תיאורי פעולות, הבעות פנים ומחוות גופניות שתואמות לאופי הדמות במקום תשובה יבשה.

מתאים ל

  • אימון LoRA לדמויות

    כוונון עדין של מודלי שפה כדי שילמדו סגנון דיבור ייחודי של דמויות בדיוניות בשפה הסינית.

  • סימולציות משחק חד-שלביות

    יצירת בוטים למשחקי תפקידים שמגיבים לקלט משתמש קצר בליווי תיאורי גוף והבעות פנים בסוגריים.

  • מחקר על הטיות במבחני הערכה

    בדיקת ההשפעה של דאטהסט שיוצר עם מודל DPO על ניפוח ציונים במבחן characterEval.

איפה זה נופל

היוצר מודה בגלוי במספר בעיות מהותיות בנתונים. ראשית, התשובות יוצרו באמצעות מודל ישן בן חודשיים והופקו בחיפוש חמדני (greedy search), מה שיצר חזרתיות כבדה וביטויים שחוזרים על עצמם ללא הרף כמו חיוכים וקימוט מצח. שנית, אין כאן עברית או אנגלית אלא סינית בלבד, וסינון התוכן המזיק לא נעשה בצורה יסודית, כך שעלולות להופיע תגובות רעילות. בנוסף, המודל שייצר את הטקסט אומן ב־DPO מול מודל התגמול של characterEval, ולכן הערכת מודלים שאומנו על המאגר מול לוח המבחנים הזה תוביל לציון מוטה ולא אמין.

שאלות
נפוצות

האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?

כן, רישיון apache-2.0 מאפשר שימוש מסחרי מלא בנתונים ובמודלים שתאמנו עליהם. עם זאת, עליכם להקפיד לצרף את תנאי הרישיון המקוריים ואת הודעת הייחוס של היוצר בכל הפצה. כדאי לזכור שחלק מדמויות האנימה המופיעות בטקסט עשויות להיות מוגנות בזכויות יוצרים של צד שלישי.

האם המאגר כולל עברית או שפות אחרות מלבד סינית?

לא, המאגר מוגדר ומכיל טקסט בשפה הסינית בלבד. כל תיאורי הדמויות, שאילתות המשתמשים שנלקחו ממאגרים מקומיים והתשובות שנוצרו נכתבו בסינית. אם המטרה שלכם היא לאמן מודל לדמויות בעברית, הנתונים האלה לא יסייעו בלי תרגום ועיבוד מחדש.

איך נאספו ונוצרו הנתונים שבקובץ?

היוצר שילב הגדרות רקע של דמויות מתוך Refined-Anime-Text עם שאלות גולשים ממאגר השיחות הסיני xhj. לאחר מכן, הוא הזין את הזוגות האלה לתוך מודל שפה ייעודי משלו כדי שיפיק את התשובות בתור הדמות. כל התהליך נעשה באופן סינתטי ממוחשב.

מדוע היוצר מזהיר מפני בדיקת המודל ב־characterEval?

המודל ששימש לייצור התשובות עבר אימון DPO מול מודל התגמול הספציפי של characterEval. כתוצאה מכך, מודל חדש שתאמנו על הטקסטים האלה ילמד לחקות את ההעדפות המדויקות של המבחן. הדבר יגרום לציונים לזנק כלפי מעלה באופן מלאכותי שלא מייצג את איכות המודל בפועל.

איך טוענים

טוענים את הקובץ Roleplay_Anime_xhj_alpaca.json ישירות מתוך Hugging Face, ואין צורך לבקש אישור גישה מוקדם או להמתין לאימות ידני. המאגר כולו פתוח וכולל שלושה קבצים בלבד, שהעיקרי שבהם מחזיק את כל הדיאלוגים במבנה הסטנדרטי של הוראה, קלט ופלט. גודל המאגר המדויק או כמות השורות המלאה לא מפורטים בכרטיס, אך מומלץ למפות את השדות instruction ו־output ישירות לתוך סקריפט אימון LoRA פשוט, בדיוק כפי שהיוצר ממליץ לעשות לקבלת תוצאות סבירות.

from datasets import load_dataset

ds = load_dataset("LooksJuicy/Chinese-Roleplay-SingleTurn")

הרישיון

המאגר מופץ תחת רישיון apache-2.0, שמתיר שימוש חופשי כולל שימוש מסחרי, שינוי של המידע והפצה מחודשת. הרישיון דורש מתן קרדיט ושמירה על הודעת הרישיון המקורית, אך הוא אינו מחייב אתכם לשחרר מודלים שאומנו על בסיס הנתונים תחת אותו רישיון.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗