deberta-v3-base-prompt-injection

מה זה

מדובר באימון ייעודי על בסיס DeBERTa-v3 עם 184 מיליון פרמטרים, שמטרתו אחת בלבד: להחזיר אפס אם הטקסט תמים, או אחת אם מישהו מנסה לעקוף הוראות. הדאטה ששימש לאימון הורכב מכמה מאגרי קוד פתוח, ביחס של שבעים אחוז פרומפטים רגילים מול שלושים אחוז ניסיונות תקיפה.

במבחני הערכה המודל הציג דיוק כמעט מושלם של מעל 99.9 אחוז בבדיקות, אבל מספרים כאלה במבחן סינתטי אומרים בעיקר שהוא שינן מצוין את הדוגמאות שהיו במאגר. בעולם האמיתי, תוקפים משנים ניסוחים בלי הפסקה ושיעורי התפיסה בפועל תמיד נמוכים בהרבה ממה שנמדד בסביבה סגורה.

מתאים ל

• סינון קלט בוטים באנגלית

  חוסם ניסיונות עקיפה של משתמשים ישירות בשכבת ה־API לפני שהם מגיעים למודל יקר.

• שער אבטחה מקומי וזול

  בדיקת טקסט מהירה על מעבד רגיל בלי לשלוח שום מידע רגיש לשירותי ענן חיצוניים.

• בדיקת פרומפטים במערכות סוכן

  סריקה מהירה של קלטים ממוקדים כדי למנוע השתלטות על כלים וסוכנים אוטונומיים.

איפה זה נופל

הבעיה המרכזית היא שהיוצרים ארכבו את הפרויקט והפסיקו לתחזק אותו, כשיש כבר גרסה שניה עדכנית יותר באותו חשבון. בנוסף, המודל אומן על אנגלית בלבד, כך שבקשות בעברית או תקיפות מעורבות שפות יעברו אותו בקלות בלי להדליק נורית אדומה.

מעבר לזה, חלון ההקשר מוגבל ל־512 טוקנים, מה שפוסל אותו מניתוח מסמכים ארוכים או שיחות מתמשכות, והכרטיס מציין במפורש שסגנונות טקסט שלא נכללו באימון יגרמו לו לפספס.

אותה משפחה

deberta-v3-base-prompt-injection יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

בזכות הגודל הצנוע ומשקל קבצים של 2.1 גיגה בייט, אפשר להריץ אותו ישירות על מעבד רגיל דרך ONNX וספריית Optimum בלי לחשוב פעמיים. אין שום צורך בכרטיס מסך ייעודי כדי לקבל תגובה מהירה ברמת המילישניות על משפטים בודדים.

אם יש לכם שרת מקומי או קונטיינר קטן, חבל לשלם לספקי צד שלישי על API של סריקת קלט. אתם מושכים את המשקולות דרך ספריית transformers, עוטפים ב־pipeline בסיסי, ויש לכם שער אבטחה מקומי שלא מוציא מידע החוצה.

from transformers import pipeline

pipe = pipeline("text-classification", model="protectai/deberta-v3-base-prompt-injection")
print(pipe("שלום"))

הקבצים

20 קבצים במאגר, 2.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model_optimized.onnx774.3 MB
• onnx/model.onnx738.6 MB
• model.safetensors737.7 MB
• tokenizer.json8.7 MB
• onnx/tokenizer.json8.6 MB
• onnx/spm.model2.5 MB
• spm.model2.5 MB
• README.md6.4 KB
• training_args.bin4.5 KB
• .gitattributes1.5 KB
• onnx/tokenizer_config.json1.3 KB
• tokenizer_config.json1.3 KB
• onnx/config.json1.0 KB
• config.json994 B
• onnx/special_tokens_map.json970 B
• deberta-v3-base-prompt-injection-v1_emissions.csv811 B
• emissions.csv775 B
• special_tokens_map.json286 B
• added_tokens.json23 B
• onnx/added_tokens.json23 B

הרישיון

המודל מפורסם תחת רישיון apache-2.0, שבאופן עקרוני מתיר שימוש מסחרי, שינוי והפצה. עם זאת, היוצרים הוסיפו אזהרה חריגה לפיה חלק ממאגרי המידע ששימשו לאימון עשויים לכלול תנאים מחמירים יותר או הגבלות לא מסחריות, ולכן מי שמשלב אותו במוצר מסחרי צריך לבדוק היטב את החשיפה המשפטית שלו.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗