deberta-v3-base-injection

מה זה

מדובר בהתאמה של DeBERTa v3 Base למשימה אחת ויחידה: סיווג טקסט כבקשה תמימה (LEGIT) או כניסיון הזרקת הוראות (INJECTION). החיבור נעשה על בסיס סט נתונים ייעודי, ומאחוריו עומדים 184 מיליון פרמטרים. הרעיון הוא להציב אותו כשער כניסה לפני קריאה למודל שפה כבד, כדי לחסוך טוקנים ולמנוע מניפולציות של משתמשים.

התוצאות על סט הבדיקה מציגות דיוק של 99.14 אחוז עם שגיאה של 0.0673, אבל צריך לקחת את זה בהקשר הנכון. הנתונים שעליהם הוא אומן מגדירים בקשות תמימות רק כשאלות מגוונות או חיפושי מילות מפתח. אם הבקשות אצלכם נראות אחרת, המספרים האלה לא יישמרו בפרודקשן.

מתאים ל

• סינון קלט למודלי שפה

  בדיקת טקסט חופשי לפני שליחה ל־LLM כדי לחסום ניסיונות עקיפת הנחיות.

• הגנה על תיבות צ'אט בוט

  מחסום ראשוני וזול על השרת שעוצר פרומפטים זדוניים באנגלית ובגרמנית.

• בקרת שאילתות חיפוש

  זיהוי משתמשים שמנסים להזריק הוראות מוסתרות דרך מנועי חיפוש פנימיים.

איפה זה נופל

הבעיה המרכזית שלו היא נטייה לפסול בקשות תמימות. המפתחים עצמם מזהירים שהוא עלול להיות אגרסיבי מדי ולסמן משתמשים לגיטימיים כניסיונות פריצה. זה קורה בעיקר כשהקלט חורג ממבנה פשוט של שאלה או חיפוש, כמו פקודות מורכבות, קוד או ניסוחים ארוכים. בנוסף, חלון ההקשר מוגבל ל־512 טוקנים, והוא אומן רק על אנגלית וגרמנית, כך שהוא לא יעיל לזיהוי מתקפות בעברית.

איך מריצים

בזכות משקל של 1.4 גיגה בייט בלבד, הוא רץ בלי בעיה על מעבד רגיל, ולא מחייב כרטיס גרפי ייעודי כדי לעמוד בזמני תגובה טובים. קריאה ישירה דרך ספריית transformers בפייתון מאפשרת לטעון אותו לזיכרון השרת המקומי ולסווג כל קלט תוך מילישניות בודדות.

אין פה גרסאות מקוצצות או מורכבות יותר. אם אתם מטפלים בכמויות נמוכות מאוד של טקסט, אפשר לפנות לשרת מנוהל כדי לא לתחזק מכונה, אבל בגודל כזה בדרך כלל משתלם להריץ אותו עצמאית לצד האפליקציה.

from transformers import pipeline

pipe = pipeline("text-classification", model="deepset/deberta-v3-base-injection")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 1.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model.bin737.8 MB
• model.safetensors737.7 MB
• tokenizer.json8.7 MB
• spm.model2.5 MB
• README.md4.1 KB
• training_args.bin4.0 KB
• .gitattributes1.5 KB
• gitattributes.txt1.5 KB
• config.json996 B
• tokenizer_config.json412 B
• special_tokens_map.json173 B
• added_tokens.json23 B
• gitignore.txt13 B

הרישיון

הוא מופץ תחת רישיון MIT. המשמעות פשוטה: מותר להשתמש בו למוצרים מסחריים, לשנות את המשקלים, לאמן אותו מחדש או לארוז אותו בתוך שירות סגור, בלי צורך לחשוף את הקוד שלכם. התנאי היחיד הוא שמירת הודעת זכויות היוצרים של המפתחים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗