Daring-Anteater
קוד פתוחnvidiacc-by-4.02024-06-03
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
מאגר לאימון הוראות שמבוסס בעיקר על דאטה סינתטי מבית אנבידיה ומודלים פתוחים. הוא נבנה במקור כבסיס יציב לשלב ה־SFT עבור מחקר HelpSteer2.
- 1,969הורדות בחודש
- 30לייקים
מה זה
המאגר מיועד למשימות יצירת טקסט ומכיל תמהיל של שיחות סינתטיות ודגימות ממאגרים קיימים. הרוב המוחלט של התוכן נוצר באמצעות מודלים קנייניים של אנבידיה ובאמצעות Mixtral-8x7B-Instruct-v0.1, וכולל בין היתר שיחות כלליות, משחקי תפקידים, שאלות במתמטיקה, מעקב אחר הוראות מורכבות ומעקב אחר פורמט JSON.
לצד הנתונים הסינתטיים שולבו תתי-מאגרים ממקורות חיצוניים ידידותיים לשימוש מסחרי: 6,000 דוגמאות מתוך Open-Platypus, לצד 300 דגימות מתוך FinQA ו־287 דגימות מתוך wikitablequestions. כל רשומה כוללת ארבע עמודות קבועות: השיחה עצמה במבנה של משתמש ועוזר, מסיכה שמסמנת על איזה תורות לא לחשב loss, הנחיית מערכת ומקור הדאטה הספציפי שממנו הגיעה הדגימה.
מתאים ל
- אימון SFT למודלי שיחה
אימון בסיסי של מודלים פתוחים במענה להוראות וניהול שיחה רב שלבית.
- הפקת פלט במבנה JSON
שיפור היכולת של המודל לעקוב באופן מדויק אחרי דרישות מבניות ופורמטים קשיחים.
- הכנה למשוב העדפות
יצירת מודל התחלתי חזק לקראת אימון מבוסס תגמול או כוונון העדפות.
איפה זה נופל
המאגר מוגדר לשפה האנגלית בלבד, ואין בו שום ייצוג לעברית. בנוסף, חלק הארי של הנתונים נוצר באופן סינתטי לחלוטין על ידי מודלי שפה, מה שאומר שהזיות, שגיאות לוגיות סמויות וחזרתיות מבנית של מודל המקור עלולות לעבור ישירות אל המודל שתאמנו. אם אתם בונים מערכת שמיועדת למשימות שדורשות דיוק עובדתי מוחלט, תצטרכו לבדוק את איכות התשובות הסינתטיות בעצמכם לפני שמכניסים את המשקלים למוצר אמיתי.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, הרישיון המוצהר הוא cc-by-4.0 וכל החלקים שנוספו אליו נלקחו ממאגרים מתירניים. מותר לאמן מודלים מסחריים כל עוד מעניקים ייחוס מתאים לפי תנאי הרישיון.
האם הדאטהסט כולל תמיכה בעברית?
לא, המאגר מתועד כשפה האנגלית בלבד. אימון עליו לא ישפר יכולות בעברית ואינו מיועד למשימות בשפה המקומית.
איך נאספו הנתונים במאגר?
הרוב הגדול הופק באופן סינתטי על ידי Mixtral ומודלים של אנבידיה. היתר נדגם ממאגרים מוכרים כמו Open-Platypus, FinQA ו־wikitablequestions.
למה אנבידיה שחררה את המאגר הזה?
הוא שוחרר כחלק מפרסום המחקר של HelpSteer2 כדי לאפשר שחזור תוצאות. הוא שימש שם ליצירת מודל SFT שעליו ביצעו כוונון העדפות נוסף.
איך טוענים
המאגר זמין לשימוש מיידי דרך Hugging Face ללא צורך בהרשאה מיוחדת או אישור גישה מראש. הקובץ המרכזי מגיע בפורמט jsonl בשם train.jsonl ומוכן לטעינה ישירה לספריות אימון סטנדרטיות. לפני שמתחילים לרוץ כדאי לבדוק היטב את עמודת ה־mask, שמסמנת כברירת מחדל לא לחשב loss על תורות המשתמש, וכן את עמודת ה־system שמגדירה את התנהגות המודל בכל דגימה. מאחר שהרשומות מגיעות ממקורות שונים, עמודת המקור מאפשרת לסנן החוצה סגנונות מסוימים אם רוצים להתמקד רק בפתרון בעיות, ב־JSON או בשיחות פתוחות.
from datasets import load_dataset
ds = load_dataset("nvidia/Daring-Anteater")הרישיון
המאגר מופץ תחת רישיון cc-by-4.0 שמתיר שימוש מסחרי מלא, כולל אימון מודלים למוצרים מסחריים. תת-המאגרים הסינתטיים נוצרו תחת הרישיון הזה, והחלקים החיצוניים הגיעו מרישיונות מתירניים תואמים כמו MIT ו־Apache-2.0. הדרישה העיקרית היא מתן קרדיט וייחוס מתאים לאנבידיה ולמקורות הנתונים, ללא חובת שיתוף של הנגזרות באותו הרישיון.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס