Nemotron-Research-GooseReason-0.7M
קוד פתוחnvidiacc-by-nc-4.02026-01-14
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
המאגר מכיל מעל שבע מאות אלף משימות רב ברירה ללמידת חיזוק בתחומי מתמטיקה, תכנות ומדעים. הוא פותר את המחסור בדאטה שקל לאמת אוטומטית על ידי הפיכת טקסטים קיימים לשאלות השלמת שלבי חשיבה.
- 207הורדות בחודש
- 31לייקים
מה זה
המאגר כולל שלוש חלוקות עיקריות שמכסות תחומי היגיון שונים. החלק הראשון מכיל 235,836 משימות מתמטיקה שמקורן במאגר AoPS-Instruct, הכולל פתרונות קהילתיים לבעיות ברמת אולימפיאדה. החלק השני מורכב מ־281,793 שאלות קוד מתוך rStar-Coder, שהכיל במקור בעיות תכנות תחרותי עם פתרונות מודל ללא בדיקות יחידה. החלק השלישי מקיף 155,496 שאלות מדעיות ממאגר MegaScience, שנאספו מספרי לימוד אקדמיים בפיזיקה, ביולוגיה, כימיה, רפואה וכלכלה.
כל רשומה מיוצרת באמצעות מודל שזיהה קטע חשיבה קריטי בטקסט המקורי, החליף אותו בטוקן מיסוך, וייצר מסיחים שנראים משכנעים אך שגויים בהקשר. המבנה האחיד כולל שדה שאלה עם הטקסט הממוסך, רשימת אפשרויות בחירה, ואת אות התשובה הנכונה. התוצאה היא בעיות מורכבות שהאימות שלהן דורש רק בדיקת התאמה לאות הבחירה הנכונה, ללא צורך בהרצת קוד או בבדיקה ידנית.
מתאים ל
- אימון RLVR למודלים
אימון מודלי שפה קטנים במתמטיקה וקוד באמצעות בדיקת בחירה פשוטה וללא שופט חיצוני.
- מבחני הבנה בקוד
בדיקת יכולת המודל להשלים מקטעי קוד חסרים מתוך מסיחים שנראים דומים לפתרון הנכון.
- מחקר על דאטה סינתטי
ניתוח היעילות של יצירת משימות ממוסכות מתוך טקסטים שאינם ניתנים לאימות רגיל.
איפה זה נופל
כל התוכן במאגר נשען על השפה האנגלית בלבד, ואין בו שום ייצוג לעברית. בנוסף, המסיחים נוצרו בצורה סינתטית על ידי מודל שפה, ולכן ייתכנו מקרים של מסיחים שגויים בעצמם או כאלה שאינם מובהקים לחלוטין. הגישה הזו בוחנת זיהוי שלב חשיבה נכון מתוך רשימה סגורה, מה שלא מדמה כתיבה חופשית של קוד או פתרון מלא של הוכחות מאפס. אם המטרה שלכם היא מודל שיודע לתכנת בפועל, החומר הזה מוגבל כי הוא לא בודק יכולת הרצה של תוכנה אלא רק הבנת קטעי קוד קיימים.
שאלות
נפוצות
האם מותר להשתמש בדאטהסט לפיתוח מוצר מסחרי?
לא, הרישיון שבו המאגר שוחרר הוא CC-BY-NC-4.0. השימוש מוגבל למחקר ופיתוח בלבד, ואסור למכור שירות או מודל שאומן ישירות עליו. אם אתם צריכים לאמן מודל למטרות רווח בחברה, תצטרכו לחפש מקורות נתונים אחרים.
האם יש במאגר שאלות או פתרונות בעברית?
אין במאגר עברית כלל. כל הטקסטים נאספו מספרי לימוד, מפורומים ומבעיות קוד באנגלית בלבד. אם המטרה שלכם היא שיפור יכולות הבנה או פתרון בעיות בעברית, הנתונים לא יסייעו לכך ללא תרגום מקדים.
איך המשימות יוצרו בפועל מתוך הטקסטים?
החוקרים לקחו טקסטים עשירים בנימוקים, כמו פתרונות מתמטיים וספרי לימוד, ומודל שפה זיהה בהם שלב מכריע והחליף אותו במסיכה. אותו מודל יצר כמה אפשרויות שגויות אך הגיוניות באורכן ובסגנונן, וכך נוצרה שאלת רב ברירה פשוטה לבדיקה.
מה היתרון של המאגר הזה לעומת מאגרי קוד ומתמטיקה רגילים?
מאגרי תכנות ומתמטיקה רגילים ללמידת חיזוק דורשים בדרך כלל הרצת בדיקות יחידה או שופט שיבדוק את התשובה הסופית. המאגר הזה הופך טקסטים שאין להם מבחני הרצה לשאלות אמריקאיות, מה שמאפשר לאמן מודל על פתרונות אולימפיאדה וספרי לימוד באפס עלות בדיקה.
איך טוענים
הנתונים מגיעים בקובצי JSONL המחולקים לפי תחומים, לצד קובץ PDF של המאמר. הטעינה פשוטה ואינה דורשת אישור גישה מיוחד מיוצרי המאגר. כל שורה בקבצים מכילה שלושה מפתחות מרכזיים בלבד: question, options ו־answer. במבחן המעשי צריך לשים לב שסדר האפשרויות ברשימה מייצג את אותיות התשובה מ־A ואילך, ולכן קל למפות אותן ישירות לטוקנים שהמודל אמור לפלוט בזמן אימון החיזוק.
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-Research-GooseReason-0.7M")הרישיון
הרישיון הוא CC-BY-NC-4.0, מה שאומר שאסור לעשות בו שום שימוש מסחרי. מותר להשתמש בו אך ורק למטרות מחקר ופיתוח פנימיים, תוך מתן קרדיט מלא ליוצרים. מודל שתאמנו על הנתונים הללו יהיה כפוף למגבלה זו, ולא תוכלו לשלב אותו במוצר שמייצר הכנסות או משרת לקוחות מסחריים.
- שינוי הקוד
- חובת ייחוס
- שימוש מסחרי: לא