Chinese-dpo-pairs
קוד פתוחwenbopanmit2024-03-29
המאגר כולל עשרת אלפים צמדי העדפה לאימון DPO בסינית שתורגמו ממקורות מוכרים באנגלית. הוא מיועד למי שרוצה ליישר מודל שפה לתגובות בסינית לצד דאטהסטים קיימים.
- 129הורדות בחודש
- 45לייקים
מה זה
הנתונים כאן הם צמדי העדפה שנבנו עבור אימוני DPO בסינית, כשהמטרה היא ללמד מודל לבחור את התשובה הטובה מבין שתיים. הרשומות מבוססות על תרגום שנעשה באמצעות מודל GPT 3.5 לכמה מאגרי מידע ידועים באנגלית. המקורות כוללים דגימות מתוך ultrafeedback binarized preferences cleaned של argilla, שכולל בתוכו משימות מגוונות כמו sharegpt, ultrachat, evol instruct, flan v2 וסוגיות של false qa. בנוסף נלקחו צמדים מתוך orca dpo pairs של אינטל וכן מתוך truthy dpo של ג'ון דורבין.
תהליך הסינון התבסס על צמצום משמעותי של המידע הגולמי. במקור תורגמו מעל שלושים אלף דוגמאות באותו אופן, אך היוצר השאיר רק עשרת אלפים מתוכן. הסינון נעשה על ידי זריקה של כל תרגום שבו מספר השורות לא תאם למקור או שהנושא שלו השתנה והתרחק מהטקסט המקורי. היוצר מציין במפורש שהתוצאה הסופית עובדת הכי טוב כשמשלבים אותה באימון יחד עם מאגרי המקור האנגליים ולא מסתמכים רק עליה.
מתאים ל
- יישור מודלים בסינית
אימון שלב DPO למודלי שפה שנועדו להבין ולהגיב נכון בסינית על בסיס שאלות מגוונות.
- אימון מודלים רב לשוניים
שילוב הצמדים בסינית יחד עם מאגרי המקור באנגלית כדי לשמור על איזון יכולות בשתי השפות.
- בדיקת השפעת תרגום מכונה
מחקר על טיב תוצרי יישור שנוצרו מתרגום אוטומטי בהשוואה לנתוני העדפה שנכתבו במקור בסינית.
איפה זה נופל
הבעיה המרכזית היא שכל התוכן תורגם מכונה דרך GPT 3.5, על כל המשתמע מכך מבחינת ניסוחים סינתטיים וטעויות עדינות ששום סקריפט אוטומטי לא תופס. הסינון התמקד רק בהתאמת שורות ובבדיקת נושא, בלי בקרה אנושית עמוקה על איכות השפה או הדיוק התרבותי בסינית. מעבר לכך, אין כאן טיפול בעברית ואין רלוונטיות למי שלא מאמן מודל דו לשוני עם סינית. הנתונים פורסמו במרץ 2024, וכדאי לדגום אותם ידנית לפני שרצים לאימון מלא.
שאלות
נפוצות
האם מותר להשתמש במאגר למוצר מסחרי?
כן, רישיון MIT מתיר שימוש מסחרי מלא בכל תוצר שתפיקו ממנו. צריך רק לכלול את הודעת זכויות היוצרים והרישיון המקורי בקוד או במוצר שלכם. יש לזכור שהנתונים תורגמו על ידי מודל של OpenAI, ולכן כדאי לקחת בחשבון את תנאי השימוש שלהם לגבי אימון מודלים מתחרים.
האם יש במאגר נתונים בעברית?
לא, המאגר מתויג ומוגדר לשפה הסינית בלבד. כל הטקסטים שבו תורגמו ישירות ממאגרי העדפה באנגלית. אם אתם מחפשים לאמן מודל שיבין עברית, הדאטהסט הזה אינו רלוונטי עבורכם.
איך נאספו וסוננו הנתונים בפועל?
היוצר לקח מעל שלושים אלף דגימות משלושה מאגרי DPO מוכרים באנגלית ותרגם אותם לסינית עם GPT 3.5. לאחר מכן הופעל סינון שזרק דגימות שבהן מספר השורות לא התאים למקור או שהנושא סטה מהמקור. בסיום התהליך נשארו בדיוק עשרת אלפים צמדים נקיים יותר.
מה ההבדל בין המאגר הזה למאגרים המקוריים באנגלית?
מבחינת התוכן והמשימות מדובר באותן דוגמאות מתוך ultrafeedback, orca ו־truthy, אבל כאן הן מופיעות בסינית. היוצר ממליץ במפורש להשתמש בו לצד המאגרים האנגליים המקוריים ולא להריץ אותו לבד.
איך טוענים
טוענים את המאגר ישירות מקוד פייתון דרך הספרייה הרגילה של הגינג פייס עם שם הנתיב המלא wenbopan/Chinese-dpo-pairs. אין צורך בבקשת גישה מיוחדת או באישור מהיוצר, הדאטה פתוח להורדה מיידית לכולם.
כל המידע יושב בתוך קובץ אימון יחיד בפורמט parquet, בשם train-00000-of-00001.parquet, שנמצא תחת תיקיית train. לא מדווחים בכרטיס שמות השדות המדויקים, אך מאחר שמדובר בצמדי DPO המבוססים על המאגרים המקוריים, הנתונים בנויים סביב פרומפט ושתי תשובות חלופיות להשוואה.
from datasets import load_dataset
ds = load_dataset("wenbopan/Chinese-dpo-pairs")הרישיון
המאגר מופץ תחת רישיון MIT. הרישיון הזה מתיר שימוש מסחרי, שינוי והפצה, ואינו מחייב אתכם לשחרר את המודלים שאימנתם תחת אותו רישיון, כל עוד אתם שומרים על תנאי הייחוס של המקור.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש