Nemotron-Cascade-SFT-Stage-1
קוד פתוחnvidiacc-by-4.02025-12-15
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
חבילת אימון ענקית של אנבידיה שמרכזת מיליוני דוגמאות חשיבה סינתטיות שנוצרו על ידי דיפסיק. היא מיועדת למי שרוצה ללמד מודל לפתור בעיות מורכבות במתמטיקה, תכנות ומדעים.
- 1,621הורדות בחודש
- 24לייקים
מה זה
המאגר מכיל מעל 5.4 מיליון דוגמאות אימון, שמתוכן כמעט מחצית שייכות לתחום המתמטיקה, לצד כמויות גדולות של קוד, שאלות כלליות ומדעים. כל תשובה בדאטהסט כוללת תהליך חשיבה מפורש שנוצר ישירות ממודל DeepSeek-R1. עבור מרבית השאלות יש פה כמה תשובות שונות לאותה הפנייה, מה שמאפשר להשוות מסלולי פתרון.
המקורות מגוונים מאוד ומבוססים על אוספים מוכרים בקהילה. במתמטיקה נלקחו שאלות ממאגרים כמו OpenMathReasoning ו־NuminaMath, בקוד המקורות כוללים בין היתר את LeetCode, APPS ו־TACO, ובתחום הכללי שולבו שאלות ממאגרי הוראות רחבים כמו SlimOrca, ShareGPT ו־GPTeacher. כרטיס המאגר לא מפרט תהליך סינון ידני או אוטומטי ספציפי שנעשה על הפלטים.
מתאים ל
- אימון מודלי קוד וחשיבה
לימוד מודלים לפתור בעיות תכנות מורכבות תוך הפקת שרשרת חשיבה מפורטת.
- כוונון למתמטיקה ומדעים
הקניית יכולות פתרון צעד אחר צעד לשאלות מתמטיות ומדעיות ברמות קושי שונות.
- השוואת מסלולי הנמקה
ניתוח והערכה של מספר פתרונות שונים לאותה בעיה כדי לבחון איכות תהליכי חשיבה.
איפה זה נופל
כל התוכן מבוסס על פלטים של מודל יחיד, ולכן כל הטיה, הזיה או שגיאה עובדתית שקיימת במודל המקור עלולה לחזור על עצמה כאן. בנוסף, לא מוזכרת בכרטיס תמיכה בשפות אחרות מעבר לאנגלית, כך שלעבודה בעברית הדאטהסט הזה לא נותן מענה. אם אתם מכוונים לסביבת ייצור, תצטרכו להריץ בדיקות איכות משלכם כי אין דיווח על סינון או אימות של נכונות הפתרונות.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, המאגר זמין תחת רישיון פתוח שמתיר מטרות מסחריות. כל מה שנדרש מבחינה משפטית לפי הרישיון הוא מתן ייחוס מתאים ליוצרים. המודלים שתאמנו עליו אינם מחויבים להיפתח לציבור.
האם יש בדאטהסט תמיכה בעברית?
כרטיס המאגר לא מדווח על נתונים בעברית, וכלל המקורות שצוינו הם באנגלית בלבד. אם המטרה היא אימון שפתי מקומי, המאגר הזה לא רלוונטי עבורכם ללא תרגום או שילוב נתונים נוספים.
איך נאספו התשובות שמופיעות במאגר?
אנבידיה לקחה שאלות ממאגרים ציבוריים קיימים בתחומי התכנות, המתמטיקה והמדעים, והריצה עליהן את DeepSeek-R1. לרוב השאלות הופקו כמה תשובות שונות שכוללות את כל שלבי החשיבה המפורשים של המודל.
איך טוענים
הנתונים מחולקים ל־14 קבצים בפורמט jsonl לפי תחומי תוכן, ביניהם קובצי קוד, מתמטיקה וקובץ כללי. הגישה למאגר פתוחה לחלוטין ואין צורך לבקש אישור גישה מיוחד כדי להוריד אותו. בגלל שמדובר במיליוני דוגמאות הכוללות שרשראות חשיבה ארוכות, צריך להיערך לנפח אחסון משמעותי עוד לפני פריסת הקבצים.
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-Cascade-SFT-Stage-1")הרישיון
המאגר מופץ תחת רישיון Creative Commons Attribution 4.0 שמתיר שימוש מסחרי, שינוי והפצה מחדש. הדרישה העיקרית היא מתן קרדיט ברור לאנבידיה. הרישיון אינו מחייב שיתוף של מודל שאומן עליו תחת אותו רישיון.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס