OpenReasoning-Nemotron-7B

מה זה

מדובר בהתאמה של קוון 2.5 בגודל שבעה מיליארד פרמטרים, שאומן ישירות על שרשראות חשיבה סינתטיות שנלקחו מדיפסיק אר אחת. המטרה כאן ממוקדת לגמרי: פתרון בעיות במדעים, כתיבת קוד תחרותי ומענה על שאלות מתמטיות קשות, כשהוא מסוגל לפלוט תגובות באורך של עד שישים וארבעה אלף טוקנים.

במבחני ביצועים התוצאות מראות יתרון ברור על פני מודלים רגילים בגודל הזה. הוא מגיע לציון של שמונים וארבעה נקודה שבע בבחינת איימי עשרים וארבע, ומעל שישים ושלושה אחוזים במבחני קוד חיים, מספרים ששמורים בדרך כלל למודלים ששוקלים פי כמה ממנו. כשמריצים כמה דגימות במקביל ובוחרים פתרון בשיטת ג'ן-סלקט, הוא אף חוצה את רף התשעים אחוזים במתמטיקה.

מתאים ל

• פתרון בעיות קוד תחרותי

  הוא מותאם ספציפית למעבר על שלבי אלגוריתמים מורכבים ופולט ישירות פתרונות בפייתון לפי פורמט מוגדר.

• חישוב ומענה מתמטי

  מציג שרשרת חשיבה מלאה ברמת תחרויות אולימפיאדה, עם מעל שמונים וארבעה אחוזי הצלחה במבחן איימי.

• אימות פתרונות במקביל

  מאפשר הרצה של מספר דגימות ובחירת התשובה הנכונה בעזרת מנגנון ייעודי שמקפיץ את הדיוק למובילים בתחום.

איפה זה נופל

המודל אומן אך ורק באמצעות כוונון מונחה ולא עבר שלבי חיזוק מתקדמים, מה שמגביל אותו לחשיבה לפי תבניות מוגדרות מראש. במבחן המדעי הקשה אייץ'-אל-אי הוא מקבל שמונה נקודה שלוש בלבד, כלומר כשהבעיה דורשת הבנה רחבה ולא רק מניפולציה מתמטית, הוא מתקשה מאוד.

בנוסף, הוא מוגדר רשמית רק באנגלית ולא מיועד לשיחה כללית, סיכום טקסטים או עבודה בעברית. שימוש בפלט ארוך כל כך גם גורר זמני תגובה איטיים להחריד, מה שלא מתאים ליישומים שדורשים מענה מיידי למשתמש קצה.

אותה משפחה

OpenReasoning-Nemotron יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הגולמי תופס קצת מעל ארבעה עשר גיגה בייט בזיכרון, כך שכרטיס מסך בודד של עשרים וארבעה גיגה בייט מחזיק אותו ללא קוונטיזציה. אנבידיה ממליצה על ארכיטקטורת אמפר או הופר בסביבת לינוקס, יחד עם מנועי הרצה דוגמת וי-אל-אל-אם או טנסור-אר-טי כדי להתמודד עם קצב ייצור הטוקנים הגבוה.

אם אתם מתכננים לנצל את יכולת החשיבה המלאה שלו ולהגיע לעשרות אלפי טוקנים של פלט, תצטרכו שרת עם כרטיס מקצועי כמו שמונים גיגה בייט כדי למנוע קריסות זיכרון בהקשרים ארוכים. במקרים שבהם אין לכם תשתית כזו זמינה, שירותי אירוח חיצוניים שמחייבים לפי שימוש יהיו זולים ופשוטים יותר לתחזוקה שוטפת.

from transformers import pipeline

pipe = pipeline("text-generation", model="nvidia/OpenReasoning-Nemotron-7B")
print(pipe("שלום"))

הקבצים

18 קבצים במאגר, 14.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors10.0 GB
• model-00002-of-00002.safetensors5.3 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json27.8 KB
• README.md13.6 KB
• genselect_hf.py12.2 KB
• tokenizer_config.json5.3 KB
• EXPLAINABILITY.md2.2 KB
• .gitattributes1.6 KB
• PRIVACY.md1.3 KB
• config.json763 B
• SAFETY.md658 B
• special_tokens_map.json616 B
• added_tokens.json605 B
• BIAS.md509 B
• generation_config.json121 B

הרישיון

הפרויקט משוחרר תחת רישיון קריאייטיב קומונס ייחוס ארבע אפס, יחד עם הפניה לרישיון אפאצ'י שתיים של מודל הבסיס. זה מתיר שימוש מסחרי ומחקרי חופשי, כולל שינוי והפצה, כל עוד אתם נותנים קרדיט מתאים ליוצרים.

• שימוש מסחרי
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗