Nemotron-SFT-Multilingual-v1
קוד פתוחnvidiacc-by-4.0,cc-by-sa-4.02026-03-10
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
מאגר נתונים רב לשוני מקיף לאימון מודלים על פתרון בעיות במדעים, מתמטיקה ותכנות. התוכן מתורגם לשש שפות מרכזיות, אך שומר על שלבי החשיבה המלאים באנגלית.
- 1,769הורדות בחודש
- 17לייקים
מה זה
המאגר מציג מעל שלושה מיליון רשומות שמיועדות לאימון מודלי שפה בפתרון בעיות טכניות מורכבות. המקור של הנתונים הוא דגימות מתוך שלושה מאגרים קודמים של אנבידיה שעסקו במתמטיקה, מדעי הטבע ותכנות תחרותי. הדגימות האלו תורגמו מאנגלית לגרמנית, צרפתית, ספרדית, איטלקית, יפנית וסינית באמצעות המודל Qwen2.5-14B-Instruct. לאחר התרגום הופעלו חוקי סינון כדי לזרוק תרגומים שבורים או הזיות של המודל, ובחלק המדעי הריצו מודל נוסף בשם Qwen3-4B-Thinking-2507 כדי לתקן בעיות עימוד ופורמט.
המבנה של כל רשומה כולל שאלה ותשובה סופית בשפת היעד, אבל תהליך ההסקה עצמו נשאר באנגלית מתוך החלטת ארכיטקטורה של אנבידיה. הנתונים מחולקים לשלושה תחומים מרכזיים: מתמטיקה, תכנות ומדעים, כאשר כל תחום מחולק לקבצים לפי ששת השפות השונות. מדובר בנתונים סינתטיים שעברו עיבוד אוטומטי מלא, ללא התאמה להקשרים מקומיים או תרבותיים של השפות שנבחרו.
מתאים ל
- אימון מודלים רב לשוניים
שיפור היכולת של מודל שפה לפתור שאלות מתמטיות בשפות אירופיות ואסיאתיות.
- פתרון בעיות קוד בשפות זרות
התאמת מודלי תכנות לפרומפטים בשפות כמו גרמנית, סינית ויפנית.
- אימון מודלים מבוססי הסקה
אימון שמשלב קלט בשפת יעד יחד עם תהליך הסקה מפורט בשפה האנגלית.
איפה זה נופל
עברית לא קיימת כאן בכלל, המאגר מוגבל לשש שפות בלבד. בנוסף, כל החומר תורגם ממקורות באנגלית באמצעות מודל שפה, ולכן הוא לא מכיל ידע מקומי או התייחסות לתרבות של המדינות שבהן דוברים את השפות האלו. יש לקחת בחשבון ששרשרת ההסקה נשארה באנגלית בלבד, כך שאם אתם מנסים ללמד מודל לחשוב ולהסביר צעד אחר צעד בשפת היעד, המבנה הזה פשוט לא יתאים למטרה.
שאלות
נפוצות
האם המאגר כולל עברית?
לא. הנתונים מתורגמים לשש שפות בלבד: גרמנית, צרפתית, ספרדית, איטלקית, יפנית וסינית.
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, אנבידיה מציינת שהמאגר מיועד לשימוש מסחרי. עם זאת, חלקים שמקורם מ־StackOverflow כפופים לרישיון CC BY-SA 4.0 הדורש שיתוף באותו רישיון, דבר שמחייב בדיקה משפטית לפני אימון מודלים סגורים.
כמה מקום נדרש כדי לאחסן את כל הנתונים?
נפח האחסון הכולל של הקבצים עומד על כ־90 גיגה בייט. הקבצים מופצים בפורמט JSONL ומחולקים לפי שפות ותחומי ידע.
באיזו שפה כתובים הסברי הפתרון והחשיבה?
השאלות והתשובות הסופיות מתורגמות לשפת היעד, אך תהליך ההסקה נשאר באנגלית בלבד. זה נעשה בכוונה כחלק מהחלטת ארכיטקטורה של אנבידיה.
איך טוענים
המאגר שוקל בסביבות 90 גיגה בייט, כך שצריך להיערך עם מספיק מקום פנוי בדיסק לפני ההורדה. הגישה אליו פתוחה וחופשית ללא צורך באישור מיוחד מצד אנבידיה. הנתונים מאורגנים בעשרים קבצים בפורמט JSONL, שמחולקים לפי התחום ושפת היעד כמו קובצי super-v3_code או super-v3_math. כל שורה בקובץ מכילה טקסט ומטא-דאטה, כאשר הרכיבים המשמעותיים לעבודה הם שאלת הקלט, התשובה הסופית המתורגמת, ומסלול החשיבה המפורט באנגלית שדורש התייחסות ספציפית בבניית תבנית הפרומפט שלכם.
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-SFT-Multilingual-v1")הרישיון
המאגר מוגדר ברישיון כפול שמאפשר שימוש מסחרי. רוב החומר כפוף לרישיון CC BY 4.0 שדורש רק מתן קרדיט. החלקים שמקורם ב־StackOverflow וב־MathGenSelect כפופים לרישיון CC BY-SA 4.0, שמחייב שיתוף של יצירות נגזרות תחת אותו רישיון. המשמעות עבורכם היא בדיקה משפטית קפדנית אם אתם מאמנים מודל סגור, בגלל דרישת השיתוף הזהה בחלק מהנתונים.