gpt-oss-safeguard-20b — הדגמה

מה זה

מזינים שני דברים עיקריים בחלון הקלט: את מסמך המדיניות שרוצים לבחון, ואת הפרומפט שרוצים להעביר דרכו. בצד השני הממשק מחזיר שתי תיבות נפרדות, אחת מציגה ניתוח מפורט של הטקסט מול הכללים שהגדרתם, והשנייה נותנת את התשובה הסופית. הממשק כולל גם דוגמאות מובנות לבדיקה מהירה.

מאחורי הקלעים רץ מודל שפה ממשפחת השמירה של OpenAI, שמיועד לסווג תוכן ולאכוף כללים מוגדרים מראש. הקוד טוען את המודל ישירות דרך ספריית transformers של פייתון, ומשתמש בהזרמת טקסט כדי להציג את התוצאות כשהן נוצרות בלי לחכות לסיום כל הריצה. בנוסף, יש בהגדרות המתקדמות סליידרים שמאפשרים לשנות את הטמפרטורה, פרמטר top-p, ענישה על חזרתיות ומספר הטוקנים המרבי שייווצרו בכל ריצה.

מתאים ל

• בדיקת חוקי סינון

  מזינים כלל בטיחות ובודקים אם המודל מזהה הפרות בפרומפטים שונים.

• ניתוח הנחיות מערכת

  בוחנים כיצד המודל מפרק ומסביר את שיקולי המדיניות שנוסחו.

• כוונון פרמטרים

  משנים טמפרטורה ומגבלת טוקנים כדי לראות את ההשפעה על ההחלטה.

איפה זה נופל

הבעיה המיידית היא שהאפליקציה מסומנת כרגע כמושהית, ולכן אי אפשר ללחוץ על הכפתור ולקבל תוצאה בלי שהיא תופעל שוב. בנוסף, זהו ממשק בדיקה נקודתי לטקסט בלבד ולא מנגנון הגנה שלם. הוא לא מתחבר ישירות לצינור ייצור ולא בודק קבצים, תמונות או קוד מורכב, אלא רק מעריך את הטקסט הישיר שהקלדתם מול ההנחיות.

איך מריצים

כדי להתחיל, מקלידים את המדיניות ואת הפרומפט, או בוחרים באחת הדוגמאות המוכנות, ולוחצים על Generate. אם רוצים לשלוט בדיוק של הפלט, אפשר לפתוח את ההגדרות המתקדמות ולשנות שם ערכים כמו טמפרטורה בין אפס ל־1.5, או להגדיל את מכסת הטוקנים עד 4096. מתחת לתוצאות מוצגת שורת מידע עם משך הזמן המדויק בשניות שלקחה הריצה. האפליקציה רצה על חומרת zero-a10g שמקצה מעבד גרפי לפי דרישה, אבל כרגע היא במצב מושהה ולכן אי אפשר להריץ אותה ישירות בדפדפן בלי הפעלה מחדש.

pip install -U huggingface_hub
hf download openai/gpt-oss-safeguard-20b

הקבצים

15 קבצים במאגר, 12.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors4.8 GB
• model-00000-of-00002.safetensors4.8 GB
• model-00002-of-00002.safetensors4.2 GB
• tokenizer.json27.9 MB
• model.safetensors.index.json36.4 KB
• chat_template.json17.5 KB
• chat_template.jinja16.7 KB
• LICENSE11.4 KB
• tokenizer_config.json4.2 KB
• README.md4.0 KB
• config.json1.8 KB
• .gitattributes1.6 KB
• USAGE_POLICY236 B
• generation_config.json165 B
• special_tokens_map.json98 B

הרישיון

הרישיון של היישום לא דווח בקוד או בתיעוד. המשמעות היא שאין הרשאה ברורה לגבי שימוש מסחרי, שילוב בקוד חיצוני או הפצה מחדש, וצריך לבדוק את תנאי המודל המקורי לפני שמסתמכים על התוצרים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗