Prompt-injection-dataset
קוד פתוחneuralchemyapache-2.02026-01-25
המאגר מרכז דוגמאות של פרומפט אינג'קשן מול בקשות תמימות כדי לסווג התקפות על מודלי שפה. הוא מציע תיוג לפי חומרה וסוג מתקפה, עם הפרדה קפדנית שמונעת זליגת מידע בין האימון למבחן.
- 2,171הורדות בחודש
- 29לייקים
מה זה
הנתונים כוללים טקסטים של הוראות זדוניות לצד בקשות תמימות, כולל דוגמאות שליליות קשות שנועדו למנוע זיהויים שגויים. כל שורה מכילה תיוג בינארי של אפס או אחד, לצד קטגוריית התקפה מתוך 29 אפשרויות, רמת חומרה, מקור הדגימה, ותגיות חיפוש. החלוקה נעשתה ברמת קבוצה כדי שגרסאות מורחבות לא יופיעו במקביל בסט האימון ובסט הבדיקה.
התוכן מגיע מאיחוד של כמה מקורות מוכרים כמו תחרות HackAPrompt, מאגרי HarmBench, דגימות מתוך WildGuard, והתקפות מקוריות של החוקרים. הנתונים מחולקים לשתי תצורות עבודה. תצורת core מכילה 4,391 דוגמאות אימון מקוריות בלבד ללא הרחבות סינתטיות, ומתאימה לאלגוריתמים קלאסיים. תצורת full מכילה 14,036 דוגמאות אימון שכוללות הרחבות סינתטיות ביחס של פי שלושה, לצד אותם סטים קבועים של ולידציה ובדיקה עם 941 ו־942 רשומות.
מתאים ל
- אימון מסווג קלט מהיר
בניית מודל לוגיסטי או יער אקראי על תצורת core כדי לחסום הזרקות ברמת שער הכניסה בזמן ריצה אפסי.
- התאמת מודל שנאי להגנה
אימון מודל DeBERTa או RoBERTa על תצורת full לזיהוי עמוק של מתקפות מתוחכמות, עקיפות ושינויי זהות.
- מבחן עיוור למערכות קיימות
הרצת סט המבחן הנקי מתוך תצורת core מול מנגנוני הגנה פעילים כדי למדוד עמידות מול 29 סוגי מתקפה שונים.
איפה זה נופל
כל הנתונים במאגר מוגדרים באנגלית בלבד. מי שבונה מודל הגנה למערכות שמקבלות קלט בעברית לא יקבל פה מענה ישיר, ויצטרך לתרגם את הדוגמאות או לאסוף מידע מקומי. בנוסף, שיעור תוצאות החיובי הכוזב המדווח על הסט נע בין 6.4 אחוזים ליותר מעשרה אחוזים במודלים שנבדקו. במוצר פעיל, חסימה של שבעה אחוזים מבקשות המשתמשים התמימות בגלל זיהוי שגוי היא מחיר כבד שמחייב בדיקה וכיול זהיר מראש.
שאלות
נפוצות
האם הדאטהסט כולל תמיכה בעברית?
לא. כל הטקסטים והדוגמאות במאגר מוגדרים באנגלית בלבד. שימוש במודל שיאומן עליו ישירות מול משתמשים בעברית ידרוש איסוף עצמאי של דוגמאות או תרגום מותאם.
האם מותר להשתמש בו לפיתוח מוצר מסחרי?
כן, הרישיון המוצהר של המאגר הוא Apache 2.0, שמתיר שימוש מסחרי מלא. עליכם רק לשמור על תנאי הייחוס ומתן הקרדיט כנדרש ברישיון המקורי.
באיזו תצורה כדאי לבחור לפרויקט שלי?
אם המטרה היא להריץ מודלים קלאסיים וקלים כמו רגרסיה לוגיסטית, בחרו ב־core שמכיל כ־4,400 דוגמאות לא מנופחות. אם אתם מכוונים לאימון של מודלי שפה ממשפחת השנאים, תצורת full תספק פי שלושה נתונים בזכות אוגמנטציות.
איך וידאו שאין דליפת מידע בין האימון למבחן?
היוצרים קיבצו את כל הניסוחים וההרחבות הסינתטיות של אותה מתקפה תחת מזהה קבוצתי יחיד, ושייכו את כל הקבוצה במלואה לאותו החלק. בנוסף, קובצי הוולידציה והבדיקה מכילים אך ורק דוגמאות מקוריות ללא הרחבות סינתטיות.
איך טוענים
טוענים את הנתונים ישירות דרך הספרייה של Hugging Face בפקודת load_dataset רגילה, ללא צורך באישור גישה מראש. הקבצים שמורים בפורמט Parquet, כאשר בוחרים מראש בין התצורה הבסיסית core לתצורה המורחבת full לפי המודל שרוצים לאמן. השדות המרכזיים לעבודה מיידית הם text שמכיל את הפרומפט הגולמי, ו־label שמחזיר 1 למתקפה ו־0 לבקשה לגיטימית. אם רוצים לסנן לפי אופי הפעילות, כדאי לשים לב לשדות category ו־augmented.
from datasets import load_dataset
ds = load_dataset("neuralchemy/Prompt-injection-dataset")הרישיון
המאגר מופץ תחת רישיון Apache 2.0 המאפשר שימוש מסחרי, שינוי והפצה של הנתונים, כולל אימון מודלים פנימיים או מסחריים. תנאי הרישיון דורשים מתן קרדיט וציון הרישיון המקורי, אך אינם מחייבים לפתוח את קוד המקור או לשתף את המודל המאומן באותו הרישיון.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים