Nemotron-Cascade-RL-SWE
קוד פתוחnvidiacc-by-4.02025-12-15
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
מאגר נתונים מבית אנבידיה לאימון מודלים לתיקון קוד בעזרת למידת חיזוק, בלי להסתמך על הרצת סביבות דוקר. הוא כולל בעיות אמיתיות שנועדו להקפיץ ביצועים במשימות הנדסת תוכנה מורכבות.
- 430הורדות בחודש
- 33לייקים
מה זה
המאגר מרכז דוגמאות לתיקון באגים שנאספו מכמה מקורות מוכרים: SWE-Fixer-Train, SWE-Smith, SWE-Bench-Train, SWE-reBench ותת מאגר מתוך R2E-Gym. המפתחים בנו את הפרומפטים לפי מסגרת agentless mini, וחילקו את הנתונים לפי רמות קושי ואורך הקשר מקסימלי של 16 אלף, 24 אלף ו־32 אלף טוקנים. כדי לא לפגוע באמינות ההערכה, הוסרו כל המקרים שמקורם במאגרים שנמצאים ב־SWE-Bench_Verified.
בגרסת ה־16K יש עשרות אלפי דוגמאות. רוב הנפח מגיע מ־SWE-Fixer-Train שמספק מעל 23 אלף שאלות. כל שאלה עשויה להופיע בשתי גרסאות: אחת נקייה עם קבצים מדויקים בלבד, ושנייה עם קבצים רועשים שאותרו בעזרת DeepSeek-R1-0528 כדי לאתגר את יכולת איתור התקלה. המבנה כולל שדות של מזהה, מקור, התיקון האנושי המקורי, והפרומפטים שנועדו להזנת מודל תגמול.
מתאים ל
- אימון מודל חיזוק לקוד
אימון מודלים בגישת RL לפתרון באגים מורכבים במאגרי תוכנה, תוך שימוש במודל שפה כמערכת תגמול ללא הרצת דוקר.
- סינון קבצים רועשים
אימון המודל להתמקד בקבצים רלוונטיים מתוך רשימת קוד שכוללת הפרעות ורעש שנאספו מראש.
- התאמת אורך הקשר
אימון הדרגתי ברמות קושי שונות לפי אורך חלון ההקשר, מ־16K ועד 32K טוקנים.
איפה זה נופל
הנתונים כולם באנגלית ומבוססים על קוד ומאגרי תוכנה, ללא דוגמאות מטקסט כללי או שפות אחרות. המאגר מיועד אך ורק למסגרת agentless ולמשימות הנדסת תוכנה. אנבידיה מדווחת שהם לא השתמשו בסביבות דוקר כדי לבדוק הרצה בפועל של הקוד בזמן אימון למידת החיזוק. במקום בדיקת ריצה אמיתית, הם השתמשו במודל שפה כשופט תגמול מול הפתרון האנושי. המשמעות היא שהמודל שלכם עלול ללמוד לייצר תיקונים שנראים טוב למודל שופט אך לא עוברים טסטים במציאות.
שאלות
נפוצות
האם מותר להשתמש במאגר למוצר מסחרי?
כן, הרישיון הוא CC BY 4.0 שמתיר שימוש מסחרי מלא. התנאי היחיד הוא לתת ייחוס הולם לאנבידיה ולמקורות הנתונים. המודל שיופק מהאימון אינו מחויב ברישיון קוד פתוח.
האם הדאטהסט כולל תמיכה בעברית?
לא, הנתונים מתועדים באנגלית בלבד. כל תיאורי הבעיות, הערות הקוד והדיונים מבוססים על מאגרי קוד פתוח בינלאומיים. אם המשתמשים שלכם פותחים קריאות שירות בעברית, המאגר לא יעזור לזה ישירות.
איך אנבידיה מאמנת למידת חיזוק בלי סביבות ריצה?
במקום להריץ בדיקות יחידה בתוך קונטיינר דוקר, הם משתמשים במודל שפה נפרד, כמו Kimi-Dev-72B, שמשמש כמודל תגמול. המודל השופט מקבל את התיקון האנושי המקורי ומשווה אליו את הפתרון של המודל כדי להחליט אם הבאג נפתר.
איך המאגר מונע זליגת מידע למבחני ביצועים?
אנבידיה סיננו והוציאו מהמאגר את כל המקרים שמקורם במאגרי הקוד שמופיעים ב־SWE-Bench_Verified. המטרה היא לוודא שהציונים שתקבלו בהערכה על מבחן זה ישקפו יכולת אמיתית ולא זיכרון של הדוגמאות.
איך טוענים
המאגר פתוח להורדה ישירה ואינו דורש אישור גישה מוקדם. הנתונים מאורגנים בחמישה קבצים, ביניהם קובצי JSONL לפי אורכי הפרומפטים: train_16k.jsonl, train_24k.jsonl ו־train_32k.jsonl. כל שורה מכילה אובייקט עם prompt המיועד למודל, golden_patch שכולל את הפתרון של המפתח האנושי, ו־original_prompt שנועד להערכה מול מודל תגמול חיצוני. תצטרכו להחליט מראש באיזה אורך הקשר אתם רוצים לאמן את המודל שלכם כדי לבחור את הקובץ הנכון.
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-Cascade-RL-SWE")הרישיון
המאגר מופץ תחת רישיון CC BY 4.0 שמאפשר שימוש מסחרי, שינוי והפצה של הנתונים. הדרישה המרכזית היא מתן קרדיט ברור ליוצרים. הרישיון אינו מחייב שיתוף באותו רישיון עבור המודל שתאמנו או מוצרי הקצה שתבנו עליו.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס