Llama-3-Magpie-Pro-1M-v0.1
קוד פתוחMagpie-Alignllama32024-06-11
מיליון שיחות סינתטיות שחולצו ישירות מתוך Llama 3 70B Instruct. המאגר נותן חומר גלם לאימון הוראות בלי תלות בפרומפטים ידניים, ומגיע עם תיוגי איכות וציוני תגמול מוכנים.
- 967הורדות בחודש
- 21לייקים
מה זה
המאגר מכיל שיחות מלאות של הוראה ומענה שנוצרו בשיטה שנקראת Magpie. החוקרים הזינו למודל Llama 3 70B Instruct רק את תחילת התבנית של הודעת המשתמש, ונתנו לו להשלים בעצמו גם את השאלה וגם את התשובה. זו הגרסה הגולמית שמכילה מיליון רשומות, ללא סינון מוקדם מצד המפתחים.
לצד הטקסט עצמו, כל רשומה כוללת מטא-דאטה עשיר שמאפשר לסנן אותה עצמאית. תמצאו שם אורכי קלט ופלט, קטגוריית משימה, רמת קושי בחמש דרגות, איכות הקלט, מרחק הטמעה לשכן הקרוב ביותר למניעת כפילויות, תיוגי בטיחות שנוצרו על ידי Meta-Llama-Guard-2-8B, וכן ציוני מודל תגמול שמודדים את איכות התשובה בהשוואה למודל הבסיס.
מתאים ל
- אימון הוראות SFT
אימון מודלי בסיס במעקב אחרי הוראות מגוונות, לאחר סינון דגימות לפי ציוני איכות.
- מחקר על דאטה סינתטי
בדיקת ההשפעה של חילוץ עצמי ממודלים גדולים לעומת יצירת דאטה מבוססת פרומפטים ידניים.
- בניית מסנני איכות
שימוש בתיוגי הקושי, המרחק והתגמול כדי לאמן מסווגים להערכת איכות של הוראות.
איפה זה נופל
מדובר בנתונים גולמיים לחלוטין שמודל שפה פלט בעצמו, ולכן הם מכילים הזיות, טעויות עובדתיות ורעש. המאגר כולו באנגלית בלבד, ואין בו שום תוכן בעברית. אם תזינו אותו למודל בלי סינון לפי התיוגים המצורפים, תקבלו דוגמאות ברמת איכות נמוכה מאוד, וחובה להריץ סינון לפי ציוני הבטיחות כדי להימנע מפליטות בעייתיות של מודל המקור.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, הרישיון הוא llama3 ומאפשר שימוש מסחרי, אך הוא כפוף להסכם השימוש של מטא. אם המוצר שלכם מגיע למאות מיליוני משתמשים פעילים בחודש תצטרכו לבקש רישיון מיוחד, ובכל מקרה יש לציית למדיניות השימוש של Llama 3.
האם הדאטהסט מכיל נתונים בעברית?
לא. המאגר מוגדר ומכיל טקסט בשפה האנגלית בלבד, כפי שחולץ ממודל המקור. למי שמחפש נתונים בעברית, המאגר הזה לא יתאים בלי תרגום או עיבוד חיצוני נפרד.
מה ההבדל בין המאגר הזה לגרסת ה־300K של Magpie?
המאגר הנוכחי כולל מיליון שיחות גולמיות בדיוק כפי שיצאו מהמודל, כולל דוגמאות חלשות. גרסת ה־300K היא תת-קבוצה שעברה סינון איכות מובנה על ידי יוצרי הפרויקט לפי ציוני התגמול והבטיחות.
באיזה פורמט המידע שמור ואיך ניגשים אליו?
הנתונים שמורים בקבצי Parquet שמחולקים לחלקים. אפשר לטעון אותם בקלות בקוד פייתון בעזרת שורת טעינה אחת בספריית datasets, ללא צורך בתהליך הרשמה מיוחד.
איך טוענים
הנתונים מחולקים ל־16 קבצי Parquet בתוך תיקיית data, כך שמומלץ לטעון אותם באמצעות ספריית datasets הרגילה של Hugging Face בסטרימינג או בהורדה ישירה של הקבצים הרלוונטיים. המאגר פתוח לציבור ואינו דורש אישור גישה מיוחד מראש. כדאי להתמקד בשדות Input Quality, Safety והפרש התגמול (Reward Difference) כדי לסנן דוגמאות חלשות לפני שמתחילים אימון.
from datasets import load_dataset
ds = load_dataset("Magpie-Align/Llama-3-Magpie-Pro-1M-v0.1")הרישיון
המאגר מופץ תחת רישיון llama3 של חברת מטא. הרישיון מתיר שימוש מסחרי ומחקר, אך כפוף למדיניות השימוש המקובל של Llama 3 ולמגבלות המשתמשים החודשיים של מטא. מודל שתאמנו על הדאטהסט הזה יחויב לפעול לפי תנאי הרישיון המקוריים של Llama 3.
- שימוש מסחרי עד 700 מיליון משתמשים
- שינוי הקוד
- חובת ייחוס