Qwen3Guard-Gen-4B

מה זה

במקום להסתפק בהחלטה בינארית של מותר או אסור, הדגם הזה מחלק את הטקסט לשלוש רמות: בטוח, שנוי במחלוקת ולא בטוח. החלוקה הזו מאפשרת גמישות ביישומים שונים, למשל כשיש תוכן שאינו מזיק באופן מובהק אלא תלוי בהקשר. הוא אומן על 1.19 מיליון פרומפטים ותשובות מתויגים, ומתפקד כמודל גנרטיבי שעוקב אחרי הוראות כדי לסווג את הקלט.

המודל מנטר מגוון קטגוריות סיכון ספציפיות, כולל אלימות, פעולות לא חוקיות, תוכן מיני, פגיעה עצמית, חשיפת מידע אישי וזכויות יוצרים. בנוסף, הוא בודק נושאים פוליטיים רגישים וניסיונות עקיפת הנחיות (Jailbreak) בקלט של המשתמש. התמיכה ב־119 שפות וניבים הופכת אותו לפתרון רלוונטי למי שצריך סינון תוכן מחוץ לאנגלית בלבד, ובגודל של 4B הוא מציע פשרה סבירה בין ביצועים למשאבים ביחס לגרסאות ה־0.6B וה־8B בסדרה.

מתאים ל

• בדיקת פרומפטים לפני עיבוד

  זיהוי ניסיונות Jailbreak ותוכן אלים או לא חוקי בהודעות משתמש לפני שליחה למודל ראשי.

• סינון תשובות מודל

  בדיקה שהפלט לא מכיל מידע אישי מזוהה, הפרת זכויות יוצרים או פגיעה עצמית לפני הצגתו.

• סיווג תוכן רב-לשוני

  חלוקת תוכן לרמות סיכון שונות במערכות שתומכות בשפות מרובות מתוך 119 השפות הנתמכות.

איפה זה נופל

מדובר במודל גנרטיבי שמייצר תשובה כטקסט, מה שאומר שהסיווג עצמו מוסיף השהיה לתהליך בהשוואה לראש סיווג ייעודי. הקטגוריה של נושאים פוליטיים רגישים מוגדרת כמידע שקרי על פעולות ממשל או דמויות ציבוריות, הגדרה שעשויה להכניס הטיות סינון שחובה לבדוק מראש מול דרישות המוצר שלכם. בנוסף, זיהוי Jailbreak מוגבל רק לקלט המשתמש ולא קיים בבדיקת פלט.

אותה משפחה

Qwen3Guard-Gen יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים עומד על 8.2 גיגה-בייט בפורמט bfloat16, כך שתצטרכו כרטיס מסך עם לפחות 12 עד 16 גיגה-בייט זיכרון כדי להריץ אותו בנוחות יחד עם חלון הקשר מלא של 32,768 טוקנים. הוא דורש את ספריית transformers מגרסה 4.51.0 ומעלה, או מנועי שרת כמו vLLM מגרסה 0.9.0 ו־SGLang מגרסה 0.4.6.post1 ליצירת נקודת קצה תואמת OpenAI.

הגרסה הזו היא גרסה גנרטיבית, בניגוד לגרסת ה־Stream שמנטרת טוקנים בזמן אמת. אם אין לכם תשתית GPU זמינה להחזקת מודל של 4B ברקע רק בשביל סינון, שירות API חיצוני עשוי לחסוך תחזוקה, בעיקר בעומסים נמוכים.

from transformers import pipeline

pipe = pipeline("text-generation", model="Qwen/Qwen3Guard-Gen-4B")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 8.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors4.0 GB
• model-00001-of-00003.safetensors4.0 GB
• model-00003-of-00003.safetensors877.5 MB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json32.9 KB
• LICENSE11.3 KB
• README.md9.8 KB
• tokenizer_config.json9.6 KB
• .gitattributes1.6 KB
• config.json727 B
• generation_config.json161 B

הרישיון

הרישיון הוא Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של הקוד והפצה של המודל בחינם בתוך מוצרים. הדרישה העיקרית היא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗