Nemotron-3.5-Content-Safety
קוד פתוחnvidiaother2026-05-22
nvidia עומדים גם מאחורי NVIDIA AI, ויש עליו סקירה כאן.
בודק בטיחות קומפקטי שמסוגל לנתח טקסט ותמונות ביחד. הוא מאפשר להגדיר חוקי סינון מותאמים אישית ולראות את שרשרת המחשבה שהובילה לפסילה.
- 4.3Bפרמטרים
- 131,072טוקנים בהקשר
- 8.0 GBמשקל הקבצים
- 110,991הורדות בחודש
מה זה
בסיס המודל נשען על Gemma-3-4B-it של גוגל שעבר אימון LoRA של אנבידיה על נתוני מולטימודל ובטיחות. התפקיד שלו מוגדר, לקבל פרומפט של משתמש, תמונה בודדת או תשובה של מודל אחר, ולהחזיר תיוג ברור של safe או unsafe יחד עם קטגוריות הפגיעה.
במקום לקבל קופסה שחורה שמחזירה רק חיובי או שלילי, אפשר להעביר לו מדיניות סינון ייעודית של הארגון ולהפעיל מצב חשיבה. במצב כזה הוא מייצר הסבר קצר בתוך תגיות ייעודיות לפני שהוא פוסק. הוא מבין אנגלית, ערבית, גרמנית, ספרדית, צרפתית, הינדי, יפנית, תאילנדית, הולנדית, איטלקית, קוריאנית וסינית, אך עברית אינה ברשימת השפות הנתמכות.
המספרים במבחנים מראים תוצאות יציבות במבחני טקסט רב לשוניים כמו MultiJail שבו קיבל 0.95 בציון F1 לזיהוי תוכן פוגעני, אבל במבחני מולטימודל מורכבים הוא מתקשה יותר. בבדיקת MM-SAFETYBENCH הוא הגיע לדיוק של 0.55 בלבד, מה שאומר שסינון תמונות יחד עם טקסט עדיין מעביר מקרים בעייתיים.
מתאים ל
- סינון קלט ופלט למודלים
בדיקת פרומפטים של משתמשים ותשובות מודל כדי לעצור פניות פוגעניות לפי קטגוריות קבועות.
- אכיפת מדיניות תוכן ייעודית
הגדרת חוקי בטיחות פנימיים של החברה וקבלת שרשרת נימוק קצרה על כל חסימה.
- בקרת תמונות וטקסט משולבים
זיהוי תוכן בעייתי שבו התמונה והטקסט תמימים לחוד אך מסוכנים כשהם מופיעים יחד.
איפה זה נופל
החולשה העיקרית נמצאת בבטיחות מולטימודל. דיוק של 0.55 במבחן MM-SAFETYBENCH מראה שהוא יפספס כמעט חצי מהמקרים המורכבים שמשלבים תמונה וטקסט יחד. בנוסף, כל הפרומפטים ששימשו לאימון נכתבו באנגלית ותרגומם לשפות האחרות נעשה דרך גוגל טרנסלייט, מה שעלול לייצר נקודות עיוורון בסלנג או בהקשרים תרבותיים עדינים. עברית בכלל לא נתמכת רשמית. כמו כן, הוא מוגבל לניתוח של תמונה בודדת בגודל 896 על 896 פיקסלים.
שאלות
נפוצות
האם אפשר להשתמש בו לסינון תוכן בעברית?
הכרטיס לא מציין עברית ברשימת השפות הנתמכות, שכוללת שפות כמו אנגלית, ערבית, ספרדית וצרפתית. תרגום הנתונים באימון התבסס על גוגל טרנסלייט, כך שללא אימון נוסף משלכם הוא צפוי לפספס ביטויים מקומיים.
כמה זיכרון GPU צריך כדי להריץ אותו בפועל?
המודל שוקל 8.0 ג'יגה בייט ומכיל 4.3 מיליארד פרמטרים. כרטיס עם 16GB עד 24GB זיכרון יריץ אותו בקלות תחת vLLM, אך במצב שרשרת חשיבה או בחלונות הקשר ארוכים תצטרכו לקחת בחשבון צריכת זיכרון נוספת עבור ה־KV cache.
איך מריצים
המשקל הכולל של הקבצים עומד על 8.0 ג'יגה בייט, כך שכרטיס מסך בודד עם 16GB זיכרון VRAM יספיק להרצה מקומית מלאה. אנבידיה בדקה אותו רשמית על כרטיסי שרת כמו H100, A100 וגם RTX PRO 6000 BSE תחת מערכת הפעלה לינוקס.
אפשר להרים אותו ישירות עם vLLM או SGLang לפרודקשן, או להשתמש בספריית Transformers הרגילה בפייתון. במצב חשיבה עם מדיניות מותאמת אישית הוא מייצר טוקנים נוספים של נימוק, מה שמעלה את זמני ההמתנה, ולכן לאפליקציות שחייבות מענה מיידי עדיף לכבות את מצב החשיבה או לפנות לפתרון API חיצוני.
pip install -U huggingface_hub hf download nvidia/Nemotron-3.5-Content-Safety
הקבצים
23 קבצים במאגר, 8.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
- model-00002-of-00005.safetensors2.0 GB
- model-00003-of-00005.safetensors2.0 GB
- model-00004-of-00005.safetensors2.0 GB
- model-00005-of-00005.safetensors1.8 GB
- model-00001-of-00005.safetensors839.7 MB
- tokenizer.json33.4 MB
- tokenizer.model4.7 MB
- tokenizer_config.json1.2 MB
- model.safetensors.index.json90.6 KB
- README.md23.5 KB
- chat_template.jinja6.6 KB
- explainability.md5.3 KB
- privacy.md4.1 KB
- config.json2.5 KB
- safety.md2.4 KB
- .gitattributes1.6 KB
- bias.md891 B
- preprocessor_config.json824 B
- special_tokens_map.json670 B
- Modelfile369 B
- generation_config.json210 B
- processor_config.json70 B
- added_tokens.json35 B
הרישיון
השימוש כפוף לשילוב בין רישיון OpenMDW-1.1 לתנאי השימוש ומדיניות השימושים האסורים של Google Gemma. הרישיון מאפשר שימוש מסחרי אך מחייב עמידה במגבלות של גוגל לגבי מטרות אסורות, ויש לוודא שהמוצר שלכם תואם לשני המסמכים לפני שילוב בקוד.