PIPPA-shareGPT
קוד פתוחkingbriagpl-3.02023-09-01
שיחות רב-שיח מבוססות דמויות מוכנות לאימון בפורמט ShareGPT. המאגר חוסך את ההמרה הידנית של נתוני PIPPA המקוריים עבור מי שעובד עם כלי אימון ייעודיים.
- 192הורדות בחודש
- 27לייקים
מה זה
המאגר מכיל עיבוד מחדש של הדאטהסט PIPPA Deduped שיצרו במקור PygmalionAI. הטקסט כולו הומר למבנה השיחה המקובל של ShareGPT באמצעות סקריפט ייעודי בטייפסקריפט. מדובר בשיחות בין משתמשים לדמויות וירטואליות, בהיקף שנע בין עשרת אלפים למאה אלף רשומות.
התוכן מחולק לשלושה קבצי jsonl שונים. הקובץ הראשון שומר על הנתונים הגולמיים בלי תפקידים מוגדרים מראש. הקובץ השני מגדיר במפורש את התפקידים של המשתמש והדמות עבור Axolotl. הקובץ השלישי הוא הגרסה הנקייה ביותר, שבה הסירו הודעות ריקות, חתכו ירידות שורה מיותרות, ניקו דוגמאות בלי תיאור דמות, והוסיפו פרומפטים אקראיים של מערכת.
מתאים ל
- אימון מודלי שיחה ודמויות
פיין-טיונינג מהיר למודלי שפה עבור משחקי תפקידים ואינטראקציה פתוחה באנגלית.
- הזנה ישירה ל־Axolotl
אימון בפורמט ShareGPT בלי צורך לכתוב קוד המרה מותאם אישית מנתוני PIPPA.
- מחקר על שיחות סינתטיות
בדיקת מבנה שיחה מרובה תורות והתנהגות מודלים עם תיאורי דמות מוגדרים.
איפה זה נופל
הנתונים כולם באנגלית בלבד. עברית לא קיימת פה בכלל, ולכן לא תלמדו ממנו מודל שיחה מקומי. התוכן מבוסס על משחקי תפקידים ושיחות סינתטיות בחלקן עם דמויות, מה שאומר שהוא מוטה לחלוטין לטון בדיוני ולא מתאים למערכות שירות לקוחות, לעוזרים עסקיים או למשימות עובדתיות. מעבר לזה, אם תבחרו לא להשתמש בקובץ המסונן, תיתקלו בהודעות ריקות, בעיות עימוד ורשומות בלי הקשר של דמות.
שאלות
נפוצות
האם אפשר להשתמש בדאטהסט הזה למוצר מסחרי סגור?
עקרונית לא כדאי להסתכן בזה. רישיון agpl-3.0 מחייב שיתוף של הקוד והרכיבים הנגזרים באותו רישיון אם אתם מציעים שירות דרך הרשת. ארגונים מסחריים מעדיפים להתרחק מהרישיון הזה בדיוק מהסיבה הזו.
האם יש במאגר תמיכה בעברית?
לא, הנתונים הם כולם באנגלית. אם המטרה היא לאמן בוט שמבין עברית או מדבר בעברית, החומרים כאן לא יעזרו לכם בכלל.
מה ההבדל בין הקבצים השונים במאגר?
הקובץ המומלץ, trimmed, עבר סינון שהוריד הודעות ריקות ושיחות בלי הגדרת דמות. הקובץ raw מכיל את ההמרה הבסיסית ללא תפקידים, והקובץ האמצעי רק מגדיר מיהו המשתמש ומיהי הדמות בלי ניקוי שורות ופרומפטים.
למה צריך פאצ'ים מיוחדים כדי לאמן על זה ב־Axolotl?
הגרסה המקורית של Axolotl בזמן הפרסום לא ידעה להתמודד נכון עם פרומפטים מותאמים של מערכת בפורמט הזה, או עם מצבים שבהם המודל מתחיל לדבר לפני המשתמש. הטלאים שהיוצר סיפק מתקנים את החיתוך הזה כדי שהאימון לא ייכשל.
איך טוענים
אין צורך לבקש אישור גישה מיוחד כדי להוריד את הקבצים, הכל פתוח ישירות בפורמט jsonl. כדי לאמן מודל בפועל, המפרסם ממליץ לעבוד ישירות עם הקובץ trimmed כדי למנוע באגים, אבל יש כאן מלכוד טכני. אימון תקין על הגרסה הזו באמצעות Axolotl דורש החלת טלאי קוד ספציפיים שהיוצר קישר אליהם. הטלאים האלה מאפשרים למערכת לטפל בפרומפט מערכת מותאם אישית בפורמט ShareGPT, תומכים בהגדרת תפקידים מותאמים, ומונעים חיתוך כשתשובת הדמות מופיעה לפני פניית המשתמש. בלי הטלאים האלה תקבלו תוצאות עקומות בזמן הריצה.
from datasets import load_dataset
ds = load_dataset("kingbri/PIPPA-shareGPT")הרישיון
המאגר מוגדר תחת רישיון agpl-3.0. מדובר באחד הרישיונות המחמירים שיש בעולם הקוד הפתוח. אם אתם מאמנים עליו מודל ומפיצים אותו או מריצים אותו כשירות רשת, סביר מאוד שתצטרכו לשחרר את כל השינויים, הקוד והרכיבים התלויים תחת אותו רישיון מדויק. זה לא רישיון שחברות מסחריות שרוצות לשמור על קניין רוחני סגור אוהבות להיתקל בו.