Nemotron-Safety-Guard-Dataset-v3
קוד פתוחnvidiacc-by-4.02025-08-21
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
חצי מיליון דוגמאות בטיחות בשתים עשרה שפות לאימון מודלי סינון וגארד. החומר עבר התאמה תרבותית סינתטית ולא תרגום יבש, אבל עברית לא נכללת בפנים.
- 1,382הורדות בחודש
- 34לייקים
מה זה
המאגר מכיל 514,617 רשומות שמחולקות לקבצי jsonl לפי שפות ולפי ספליטים של train, valid ו־test. הדוגמאות מורכבות מפרומפטים בודדים או מזוגות של פרומפט ותשובה, ומסווגות לפי טקסונומיית הסיכונים של Aegis 2.0 הכוללת 12 קטגוריות ראשיות ו־9 תתי קטגוריות. כל שורה מכילה תיוג בינארי של safe או unsafe, פירוט ההפרות, ומקור התיוג.
המקור מבוסס על תרגום והתאמה של דאטהסט Aegis 2.0 האנגלי באמצעות צינור שנקרא CultureGuard, לצד פרומפטים סינתטיים של jailbreaking. בגלל הרגישות של הפרויקט, החוקרים לא העסיקו מתייגים אנושיים לייצור דאטה חדש אלא השתמשו בייצור והתאמה סינתטיים, כשחלק מהתיוגים מגיעים משיפוט של מודלי שפה וחלקם מקורם באנושי מהמאגר המקורי.
מתאים ל
- אימון מודל guardrail
אימון מסווג שמזהה פרומפטים מסוכנים ומונע מהמודל לענות עליהם בשפות נתמכות.
- זיהוי התקפות jailbreak
כוונון המודל לעמידות מול ניסיונות עקיפה יזומים באמצעות דוגמאות ה־jailbreaking שבמאגר.
- בנצ'מרק לבטיחות רב לשונית
שימוש בסטים של test ו־valid לבדיקת שיעורי סירוב והגנה במודלים קיימים מול 12 קטגוריות סיכון.
איפה זה נופל
החיסרון המרכזי לקהל המקומי הוא היעדר מוחלט של עברית. יש ערבית ושפות אחרות, אבל עברית לא נכללת ב־12 השפות שנבדקו. מעבר לכך, כל הנתונים החדשים יוצרו באופן סינתטי על ידי מודלים ולא עברו אנוטציה אנושית חדשה. ההתאמה התרבותית תלויה לחלוטין באיכות של המודל שייצר אותה, ולכן יש סיכון להטיות מובנות או פספוס של ניואנסים מקומיים. חלק מהטקסטים הרגישים מצונזרים ודורשים השלמה ידנית ממקור חיצוני, והדאטהסט מכיל תכנים פוגעניים מפורשים שמחייבים זהירות בטיפול.
שאלות
נפוצות
האם המאגר כולל עברית?
לא. המאגר כולל 12 שפות בלבד, ביניהן אנגלית, ערבית, גרמנית, צרפתית, הינדית, סינית ואחרות. כדי להשתמש ביכולות שלו בעברית תצטרכו לבצע התאמה ותרגום בעצמכם בדומה לצינור שהם הפעילו.
האם מותר להשתמש בו למוצר מסחרי?
כן, הרישיון הוא CC-BY 4.0 והיוצרים מציינים במפורש שהוא מוכן לשימוש מסחרי ולא מסחרי. החובה היחידה שלכם היא לתת ייחוס הולם ל־NVIDIA לפי תנאי הרישיון.
כמה מקום צריך בשבילו והאם צריך לבקש גישה?
הגישה פתוחה לחלוטין ואין צורך באישורים מיוחדים. כל הדאטהסט שוקל כ־626MB ומגיע ב־39 קבצים, בעיקר קבצי jsonl המחולקים לפי שפות, כך שניתן לטעון אותו בקלות בכל מכונה בלי משאבים מיוחדים.
מאיפה הגיעו הנתונים ואיך סווגו?
הבסיס הוא מאגר Aegis 2.0 שתורגם והותאם תרבותית באמצעות צינור ייצור סינתטי בשם CultureGuard. התיוג הוא היברידי, חלקו נשען על המקור האנושי וחלקו בוצע על ידי שופטי מודלי שפה או הרחבות סינתטיות של ניסיונות פריצה.
איך טוענים
טוענים את הקבצים ישירות מספריות השפות בפורמט jsonl פשוט, או מורידים את קובץ ה־zip עם הדוגמאות המותאמות. הנפח הכולל של הטקסט עומד על 626MB בלבד כך שאין בעיית אחסון או זיכרון, ואין צורך באישור גישה כדי להוריד. השדות המרכזיים לעבודה הם prompt, response, prompt_label והקטגוריות שהופרו. שימו לב לחלק מהפרומפטים שמוגדרים כטקסט מצונזר REDACTED, בעיקר סביב תכני אובדנות, וכדי להשתמש בהם תצטרכו לשלוף אותם עצמאית מדאטהסט חיצוני לפי שדה reconstruction_id_if_redacted.
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-Safety-Guard-Dataset-v3")הרישיון
הרישיון הוא CC-BY 4.0 שמאפשר שימוש חופשי כולל שימוש מסחרי מלא, שינוי והפצה. הדרישה היחידה היא מתן קרדיט מתאים ליוצרים מ־NVIDIA. אין מגבלת שיתוף זהה, ולכן אפשר לאמן עליו מודלים מסחריים או לשלב אותו בצינורות פנימיים בלי לחשוף קוד או משקלים.
- שימוש מסחרי
- שינוי הקוד
- חובת ייחוס