Magpie-Llama-3.1-Pro-300K-Filtered
קוד פתוחMagpie-Alignllama3.12024-07-26
המאגר כולל 300 אלף הוראות ותשובות סינתטיות שחולצו ישירות ממודל Llama 3.1 70B Instruct. הוא מיועד למי שרוצה לאמן מודלי שפה על שיחות איכותיות ומסוננות בלי להשקיע בתיוג אנושי יקר.
- 1,554הורדות בחודש
- 17לייקים
מה זה
הנתונים נוצרו בשיטת Magpie, שמנצלת את מבנה התבנית של המודל כדי לגרום לו לייצר גם את שאלת המשתמש וגם את התשובה. כל רשומה כוללת את צמד ההוראה והתגובה לצד מטא נתונים מפורטים: דירוג איכות, רמת קושי, קטגוריית משימה, ציון מודל תגמול, מרחק הטמעה לדוגמאות דומות וסיווגי בטיחות של Llama Guard 2.
מתוך מאגר גולמי גדול יותר, החוקרים סיננו את הנתונים והשאירו רק רשומות עם איכות קלט ברמה טובה או מצוינת וציון תגמול של מינוס 10 ומעלה. הם הסירו כפילויות והוראות מקוטעות, ובחרו את 300 אלף הדוגמאות בעלות התשובות הארוכות ביותר.
מתאים ל
- אימון הוראות למודלי בסיס
כוונון עדין מונחה של מודלי שפה כדי לשפר את יכולת המענה להוראות משתמש מורכבות.
- בניית מסנני איכות
שימוש בציוני האיכות והתגמול המצורפים כדי ללמוד מודלים להערכת טיב טקסט.
- מחקר על דאטה סינתטי
השוואת ביצועים בין אימון על תוצרי חילוץ עצמי לבין מאגרי שיחות אנושיים.
איפה זה נופל
היוצרים מציינים במפורש שהמאגר מכיל כמות גדולה מאוד של תשובות בסגנון שרשרת מחשבה, מה שעלול לפגוע בביצועים במשימות מסוימות. בנוסף, כל הנתונים באנגלית בלבד ונוצרו באופן סינתטי לחלוטין על ידי מודל יחיד, כך שהם נושאים את כל ההטיות והעיוורים של Llama 3.1 70B Instruct.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, כל עוד אתם עומדים בתנאי רישיון Meta Llama 3.1 Community. הרישיון מאפשר שימוש מסחרי לרוב החברות, אך דורש בקשת רישיון מיוחדת אם יש לכם מעל 700 מיליון משתמשים פעילים בחודש. בנוסף חובה לציית למדיניות השימוש של מטא לגבי בטיחות.
האם הדאטהסט מתאים לאימון מודלים בעברית?
לא, המאגר מוגדר ומכיל טקסטים בשפה האנגלית בלבד. כל ההוראות והתשובות חולצו באנגלית, ולכן הוא לא יתרום ישירות לשיפור יכולות השפה העברית. מי שבונה מוצר מקומי יצטרך לתרגם את הנתונים או לפנות למאגרים אחרים.
במה המאגר הזה שונה מגרסאות Magpie האחרות שפורסמו?
זוהי גרסה שעברה סינון איכות קפדני ונבחרה מתוך מאגר גולמי של מיליון שיחות. החוקרים השאירו רק דוגמאות בדירוג גבוה ובחרו את 300 אלף הרשומות עם התשובות הארוכות ביותר. בניגוד לגרסת MT, מדובר בשיחות של פנייה ותשובה בודדת ולא באינטראקציות מרובות שלבים.
איך הנתונים נאספו בפועל?
החוקרים שלחו למודל Llama 3.1 70B Instruct את תבנית השיחה בלבד, עד לנקודה שבה אמורה להתחיל הודעת המשתמש. המודל השלים בעצמו את שאלת המשתמש, ולאחר מכן ייצר עבורה את התשובה. כל התהליך נעשה באופן אוטומטי לחלוטין ללא מעורבות כותבים אנושיים.
איך טוענים
המאגר מחולק לארבעה קובצי Parquet בתיקיית data. טוענים אותו ישירות דרך ספריית datasets בלי צורך באישור גישה מיוחד. כדאי לשים לב לשדות הסינון שכבר מובנים בכל שורה, כמו אורך הפלט, מרחק השכן הקרוב ביותר ותגיות הבטיחות, שמאפשרים לחתוך החוצה דוגמאות לפי הצרכים שלכם לפני תחילת האימון.
from datasets import load_dataset
ds = load_dataset("Magpie-Align/Magpie-Llama-3.1-Pro-300K-Filtered")הרישיון
השימוש כפוף לרישיון הקהילתי של Meta Llama 3.1. הרישיון מאפשר שימוש מסחרי ומחקר, אך מחייב עמידה במדיניות השימוש המקובלת של מטא ומגביל חברות ענק בעלות מאות מיליוני משתמשים פעילים. כל מודל שתאמנו על הדאטהסט הזה יושפע ישירות מתנאי הרישיון של מטא.
- שימוש מסחרי עד 700 מיליון משתמשים
- שינוי הקוד
- חובת ייחוס