Nemotron-RL-Super-Training-Blends
קוד פתוחnvidiacc-by-4.02026-03-11
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
המאגר מרכז תערובות נתונים מובנות לאימון מודלים בלמידת חיזוק, בדיוק לפי המתכון של אנבידיה. תקבלו כאן דוגמאות מוכנות לשימוש בכלים, כתיבת קוד והסקה לוגית.
- 663הורדות בחודש
- 39לייקים
מה זה
הנתונים מורכבים מכמעט חצי מיליון רשומות טקסט המחולקות לשישה קבצי jsonl נפרדים. כל קובץ מייצג שלב אחר בתוכנית הלימוד של המודל: שלושה שלבי למידה עם תגמול שניתן לאימות, שני שלבי הנדסת תוכנה ושלב אחד של משוב אנושי. הרשומות עצמן כוללות שילוב של אינטראקציות שיחה מורכבות, שימוש בכלים ופונקציות, שאלות ברירה כפולה, בטיחות ותרגילי תכנות תחרותי.
אנבידיה אספה את המידע משילוב היברידי של כותבים אנושיים ודאטה סינתטי, לצד מקורות חיצוניים קיימים כמו דאטהסטים של Tsinghua וסקייוורק. הדוגמאות ממוינות מראש לפי שיעור הצלחה, מהקל אל הכבד, כדי לייצר התקדמות לימודית מדורגת. בחלק מקבצי התכנות הושמטו תת סטים מסוימים כמו טאקוס ואפס.
מתאים ל
- אימון בלמידת חיזוק
אימון מודלים בשלבי למידה עם תגמול שניתן לאימות באמצעות משימות היגיון וקוד.
- פיתוח סוכני קוד
שיפור יכולות המודל בתיקון באגים ובמשימות הנדסת תוכנה מורכבות.
- תרגול שימוש בכלים
הוראת מודלים להפעיל פונקציות וכלים חיצוניים מתוך שיחה מרובת שלבים.
איפה זה נופל
חלק מהנתונים שהמודל המקורי אומן עליהם אינו כלול בשחרור הזה, כך שאי אפשר לשחזר את האימון במלואו. הדאטהסט מיועד בעיקר למשימות קוד והוראות באנגלית, ואין בו שום התייחסות או כיסוי לשפה העברית. בנוסף, אף שהרישיון הראשי הוא חופשי, השימוש במקורות חיצוניים מחייב אתכם לבדוק בנפרד את הרישיונות של כל רכיב כדי לוודא שאינם סותרים את תוכניות הפיתוח שלכם.
שאלות
נפוצות
האם מותר להשתמש בדאטהסט הזה למוצר מסחרי?
כן, הרישיון המרכזי הוא CC BY 4.0 שמתיר שימוש מסחרי מלא עם מתן קרדיט. עם זאת, הדאטהסט מושך רשומות ממקורות חיצוניים שונים, ולכן עליכם לוודא שהרישיונות של אותם תתי סטים מתאימים לצרכים העסקיים שלכם.
כמה מקום אחסון צריך לפרויקט הזה?
הקבצים במאגר שוקלים יחד 26.3 גיגה בייט. קחו בחשבון שהרצת הסקריפט שמשלים את הרשומות החסרות תוריד נתונים נוספים ותגדיל את הנפח הנדרש בדיסק.
האם יש בדאטהסט תוכן בעברית?
לא. הנתונים מתמקדים באנגלית, במשימות קוד, מתמטיקה והפעלת כלים. אימון עליהם לא ישפר יכולות שפתיות בעברית.
למה חלק מהרשומות בקבצים ריקות מתוכן?
אנבידיה בחרה שלא לשכפל ישירות נתונים ממאגרים חיצוניים מסוימים אלא להשאיר מצביעים. כדי לקבל את הדאטה המלא יש להריץ את סקריפט הפייתון המצורף שמוריד אותם ישירות מיוצריהם.
איך טוענים
המאגר שוקל 26.3 גיגה בייט ומחולק לשישה קבצים עיקריים שפתוחים להורדה ישירה ללא צורך באישור גישה מוקדם. הטעינה מתבצעת כקובצי jsonl פשוטים, המיועדים לעבודה מול ספריית NeMo Gym של אנבידיה. שימו לב שבשני מקורות חיצוניים, דאפו וסקייוורק, הקבצים מכילים מצביעי מיקום בלבד ולא את הנתונים המלאים. לפני שמתחילים באימון יש להריץ את סקריפט הפייתון fill_placeholders.py המצורף למאגר, כדי שימשוך את המידע המקורי ישירות מהמקורות שלהם וישלים את השורות החסרות.
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-RL-Super-Training-Blends")הרישיון
המאגר מופץ תחת רישיון CC BY 4.0, המאפשר שימוש מסחרי, שינוי והפצה של הנתונים והתוצרים. חובתכם היחידה היא לתת קרדיט נאות ליוצרים המקוריים. אין דרישה לשתף את המודל המאומן או את הנגזרות תחת אותו הרישיון, אך יש לשים לב שהדאטה משלב מקורות בעלי רישיונות תוכנה שונים כמו אפאצ'י, MIT ובי אס די.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס