deberta-v3-base-prompt-injection-v2

מה זה

מדובר בהתאמה של DeBERTa בגרסת הבסיס שלו, שמטרתה היחידה היא להחזיר תשובה בינארית, אפס לקלט תקין ואחת להזרקה. הוא אומן על שילוב של סטים פומביים, תחרויות אבטחה ומחקרים, כדי לזהות ניסיונות עקיפה שבהם משתמש מנסה לשנות את ההוראות המקוריות של המערכת שלכם.

בבדיקה על עשרים אלף דוגמאות שלא נכללו באימון, המודל הציג דיוק כולל של 95.25 אחוזים וציון ריקול של 99.74 אחוזים. בפועל זה אומר שהוא כמעט לא מפספס התקפות אמיתיות, אבל רמת הדיוק הספציפי שלו, 91.59 אחוזים, מצביעה על כך שהוא עדיין מסמן בערך שמונה אחוזים מהפרומפטים התמימים כאילו היו מתקפה. בהשוואה לגרסה הראשונה שלו מדובר בשיפור קל בדיוק ובריקול, אבל אופי הפעולה נשאר דומה.

מתאים ל

• סינון קלט משתמש באנגלית

  זיהוי משתמשים שמנסים לדרוס הוראות בממשקי שיחה, עם ריקול גבוה של 99.74 אחוזים שמונע מרוב ההתקפות לעבור הלאה.

• שכבת אבטחה לפני סוכן אוטונומי

  בדיקת טקסטים שמגיעים ממקור חיצוני לפני שהם נכנסים כהקשר למודל שמבצע פעולות רגישות בעולם האמיתי.

• סריקת היסטוריית שיחות מקומית

  ריצה מקומית ומהירה על מעבד שמאפשרת לסווג כמויות גדולות של פרומפטים בלי לחשוף נתונים לשירות ענן חיצוני.

איפה זה נופל

המודל מוגבל אך ורק לשפה האנגלית, ולפי כרטיס המודל הוא לא יודע להתמודד עם שפות אחרות ולא מזהה התקפות מסוג jailbreak. בעיה קריטית נוספת שפורסמה היא false positives כבדים כשמזינים לתוכו הנחיות מערכת, ולכן אסור להריץ עליו טקסטים שאתם ניסחתם כמפתחים, אלא רק את הקלט שמגיע מהמשתמש.

בנוסף, הפרויקט הזה וקוד המקור שלו בארכיון, ואין עליו תחזוקה פעילה או פיתוח נוסף מטעם החברה שהעלתה אותו. אם תיתקלו בסוג התקפה חדש שלא היה קיים בתחילת 2024, המודל הזה לא יקבל עדכונים רשמיים.

אותה משפחה

deberta-v3-base-prompt-injection יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טוענים אותו ישירות דרך ספריית transformers של פייתון או דרך ספריית optimum עם מנוע ONNX, שזמין כבר בקבצים שהועלו. עם 184 מיליון פרמטרים ומשקל קבצים כולל של 1.4 גיגה בייט בדיוק מלא, אין שום סיבה להשתמש בשרת חיצוני.

אפשר להריץ אותו בקלות על כל מחשב פיתוח רגיל, אפילו על מעבד מרכזי בלי מאיץ גרפי בכלל, ולקבל זמני תגובה של מילישניות בודדות. אם אתם עובדים עם סביבות כמו LangChain, יש לו חיבור ישיר דרך הספריות הקיימות בלי צורך לכתוב קוד עטיפה מאפס.

from transformers import pipeline

pipe = pipeline("text-classification", model="protectai/deberta-v3-base-prompt-injection-v2")
print(pipe("שלום"))

הקבצים

19 קבצים במאגר, 1.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx738.6 MB
• model.safetensors737.7 MB
• tokenizer.json8.7 MB
• onnx/tokenizer.json8.6 MB
• onnx/spm.model2.5 MB
• spm.model2.5 MB
• LICENSE10.2 KB
• README.md6.3 KB
• training_args.bin5.0 KB
• .gitattributes1.5 KB
• onnx/tokenizer_config.json1.4 KB
• tokenizer_config.json1.3 KB
• onnx/config.json1.0 KB
• config.json994 B
• onnx/special_tokens_map.json970 B
• deberta-v3-base-prompt-injection-v2_emissions.csv810 B
• special_tokens_map.json286 B
• added_tokens.json23 B
• onnx/added_tokens.json23 B

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0, שמתיר שימוש חופשי כולל שימוש מסחרי, שינוי הקוד והפצה פנימית או מסחרית בתוך המוצר שלכם. התנאי היחיד הוא שמירה על הודעות זכויות היוצרים והרישיון המקורי, בלי חובת פתיחה של הקוד שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗