Nemotron-3-Nano-RL-Training-Blend
קוד פתוחnvidiaodc-by2025-12-13
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
תערובת נתונים ייעודית ללמידת חיזוק עם תגמול שניתן לאימות, שנבנתה לאימון מודל 30B של אנבידיה. היא מרכזת משימות קוד, מתמטיקה ומעקב אחר הוראות לפי רמת קושי עולה.
- 764הורדות בחודש
- 29לייקים
מה זה
המאגר כולל 93,244 רשומות טקסט שנועדו לשלב הפוסט טריינינג בלמידת חיזוק בסביבת NeMo Gym. התוכן כולו סינתטי ומורכב משבעה מקורות שונים ביחסים מוגדרים: כרבע מהנתונים מוקדש לתכנות תחרותי, עשרים אחוז לשאלות רב ברירה מבוססות ידע, שבעה עשר אחוז למעקב אחר הוראות, ועוד חלקים לסוכני עוזר עבודה, פלטים מובנים ומתמטיקה.
הסידור הפנימי של הדגימות עוצב לפי תוכנית לימודים מדורגת, שמתחילה ממשימות עם אחוזי הצלחה גבוהים ומתקדמת אל משימות קשות יותר. בתוך חלקי הקוד הוסרו מראש דגימות מתת המאגרים tacos ו־apps כדי לסנן את התוכן.
מתאים ל
- אימון מודלים בשיטת RLVR
למידת חיזוק עם תגמולים שניתנים לאימות במשימות קוד ופתרון בעיות מתמטיות.
- בניית סוכני תוכנה חכמים
שיפור היכולת של מודלי שפה להפיק פלטים מובנים ולתפקד כעוזרים בסביבת עבודה.
- אימון לפי תוכנית מדורגת
חשיפת המודל לדוגמאות קלות תחילה ודחיפתו למשימות מורכבות יותר בהמשך הריצה.
איפה זה נופל
כל הנתונים סינתטיים וקיימים בשפה האנגלית בלבד, כך שאין כאן שום מענה למשימות בעברית. בנוסף, העובדה שחלק מחומרי המתמטיקה נמשכים ממקורות חיצוניים מחייבת אתכם לבדוק בנפרד את הרישיונות של אותם מאגרים, למרות ההגדרה הכללית של המאגר הראשי. אי אפשר פשוט לטעון ולהתחיל לאמן בלי שלב הכנה והרצת סקריפט ייעודי.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, כרטיס הדאטהסט מציין במפורש שהוא מוכן לשימוש מסחרי תחת רישיון ODC Attribution. יחד עם זאת, אם אתם מושכים פנימה את נתוני המתמטיקה החיצוניים בעזרת הסקריפט, עליכם לוודא בנפרד את הרישיונות של אותם מקורות ספציפיים.
האם הדאטהסט כולל תמיכה בעברית?
לא. כל הנתונים במאגר נוצרו באנגלית בלבד. אם אתם מכוונים למודל שמיועד לעבוד מול קהל ישראלי או לפתור בעיות בשפה המקומית, תצטרכו לתרגם את המשימות או לשלב מאגרים מקבילים.
איך הנתונים נאספו ונבנו?
כל המידע מבוסס על דאטה סינתטי שיוצר עבור אימון מודל Nemotron-3-Nano-30B-A3B. הדגימות עברו סידור מחדש מהקל אל הכבד לפי אחוזי ההצלחה שלהן, כדי ליצור מסלול אימון הדרגתי.
מדאיג אותי גודל ההורדה, כמה מקום צריך להכין בדיסק?
נפח האחסון המוגדר הוא 6.92 ג'יגה בייט עבור 93,244 רשומות. קחו בחשבון שמעבר לקובץ train.jsonl הקיים, הרצת הסקריפט תוריד נתונים נוספים ממקורות צד שלישי, כך שמומלץ לפנות מקום נוסף מראש.
איך טוענים
הנפח הכולל עומד על 6.92 ג'יגה בייט וכולל קובץ train.jsonl לצד סקריפט פייתון בשם create_nanov3_jsonl.py. הנתונים לא מגיעים בשלמותם בקובץ אחד. עבור מאגרי המתמטיקה החיצוניים של DAPO ו־Skywork, הקובץ מכיל מצביעים בלבד, וצריך להריץ את הסקריפט כדי למשוך את התוכן המקורי מהרשת ולהרכיב את התערובת המלאה במחשב שלכם.
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-3-Nano-RL-Training-Blend")הרישיון
המאגר מופץ תחת רישיון ODC-By שמתיר שימוש מסחרי, בתנאי שנותנים קרדיט מתאים ליוצרים. המגבלה החשובה נוגעת למקורות החיצוניים שאינם מוטמעים ישירות, שכן אנבידיה מבהירה שהאחריות לבדיקת תנאי השימוש של אותם חלקי מתמטיקה חלה על המשתמש.