Nemotron-Research-Reasoning-Qwen-1.5B

מה זה

מדובר במודל של 1.8 מיליארד פרמטרים שמבוסס על ארכיטקטורת Qwen2 ועבר אימון חיזוקים ממושך בשיטה שאנבידיה מכנה ProRL. המטרה כאן ממוקדת מאוד: הסקת מסקנות, קוד, מתמטיקה וחידות לוגיות, בלי לגרור משקל עודף של מודל ענק.

במבחנים של אנבידיה המודל הזה עוקף משמעותית את המקור שלו, DeepSeek-R1-1.5B, ובכמה מדדים כמו מבחן המדע GPQA או חידות לוגיות הוא אפילו משאיר אבק לגרסת ה־7B של דיפסיק. בפועל זה אומר שפתרון משוואות ומעקב אחרי שלבים לוגיים מתבצעים פה ברמה גבוהה בהרבה ממה שהורגלנו לראות בקטגוריית המשקל הזו.

המאגר כולל גם עדכונים כמו v2 וגרסת BroRL שהרחיבו את צעדי האימון ושיפרו עוד יותר את הדיוק בקוד ובמתמטיקה. מי שמחפש מנוע היגיון קטן שיכול לרוץ כמעט על כל דבר ימצא פה ביצועים חריגים יחסית לגודל.

מתאים ל

• פתרון בעיות מתמטיקה מקומי

  עוקף את רוב המודלים בגודל שלו במבחני AIME ומתאים למכונות נטולות כרטיס מסך ייעודי.

• פיצוח אתגרי קוד קלים

  מציג ציונים גבוהים מול מתחרים בקטגוריה במבחני HumanEval ומסייע בלוגיקה תכנותית.

• מעבד לוגי במכשיר קצה

  בזכות משקל קבצים של 6.6 גיגה הוא יכול לרוץ על חומרה מקומית לפתרון חידות והסקת מסקנות.

איפה זה נופל

המודל הוגדר ונבדק באנגלית בלבד, כך שאין כאן שום הבטחה או בדיקה לגבי עבודה בעברית. בנוסף, חלון ההקשר אמנם מוגדר טכנית ל־131,072 טוקנים, אבל במודלים זעירים כאלה דחיסה של טקסטים ארוכים במיוחד עלולה לפגוע בדיוק ובאיכות הפלט.

מעבר לזה, המודל אומן ספציפית על מתמטיקה, קוד וחידות. לא הייתי משתמש בו למשימות יצירתיות, שיחה כללית פתוחה או ניתוח טקסט ספרותי, כי האימון הממוקד על חשיבה לוגית נוטה לשחוק יכולות שיחה גמישות.

איך מריצים

בגודל של 6.6 גיגה־בייט בדיוק bfloat16, המודל הזה יושב בנוחות על כל כרטיס מסך ביתי עם 8 עד 12 גיגה זיכרון, ואפילו על מעבד רגיל ומחשבים ניידים עם מספיק זיכרון מערכת. הטעינה נעשית דרך ספריית transformers הרגילה של פייתון, כאשר קריאה פשוטה טוענת את גרסת v2, ואפשר לגשת לגרסה המקורית דרך ענף v1 או ל־BroRL דרך הענף הייעודי שלה.

בגלל שהוא כל כך קל וזול להרצה עצמית, כמעט ואין סיבה לשלם לספק ענן על שירות מנוהל או API חיצוני. התועלת העיקרית מגיעה דווקא מהיכולת להריץ אותו ישירות על המכונה שלכם בלי תלות ברשת ובלי תשלום לפי טוקן.

from transformers import pipeline

pipe = pipeline("text-generation", model="nvidia/Nemotron-Research-Reasoning-Qwen-1.5B")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 6.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors2.1 GB
• tokenizer.json11.4 MB
• assets/deepseek_vs_nvidia102.png967.2 KB
• model.safetensors.index.json27.8 KB
• README.md9.8 KB
• tokenizer_config.json6.8 KB
• .gitattributes1.7 KB
• config.json729 B
• special_tokens_map.json485 B
• generation_config.json147 B

הרישיון

הרישיון הוא cc-by-nc-4.0, מה שאומר שהוא סגור למחקר ולשימוש אישי בלבד. אנבידיה מצהירה במפורש שהמודל מיועד למחקר ופיתוח. אסור לשלב אותו בשום מוצר מסחרי, אפליקציה בתשלום או שירות שמניב הכנסות, וצריך לתת קרדיט ליוצרים בכל פרסום מחקרי.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗