playground
רץ בדפדפןhackapromptרישיון לא דווח2023-03-03
סביבת משחק לבדיקת מתקפות פרומפט והזרקת הוראות למודלי שפה, שנבנתה עבור תחרות ייעודית. פותחים אותה בדפדפן כדי לנסות לעקוף הגנות ולראות איך המודל מגיב בפועל.
- —הורדות בחודש
- 78לייקים
מה זה
מזינים טקסט ומנסים לגרום למודל לחרוג מההוראות המקוריות שנקבעו לו במסגרת האתגר. הפלט מציג את תגובת המודל ואת הציון שמתקבל לפי מדדי הבדיקה של התחרות, בלי מעטפת מיותרת.
מאחורי הקלעים רץ הקוד של hackaprompt שמחובר למודל google/flan-t5-xxl. המודל עצמו לא יושב ישירות על השרת הזה אלא מתארח בספייס פרטי נפרד שדורש מפתח גישה ייעודי, לצד אינטגרציה עם מפתחות של OpenAI להרצת בדיקות והערכות נוספות.
הקוד כולל גם חיבור ישיר למסד נתונים של MongoDB לרישום של הפעולות והניסיונות שלכם, כך שכל פרומפט שאתם שולחים נשמר ונבדק מול חוקי התחרות.
מתאים ל
- בדיקת הזרקת פרומפטים
ניסוי מעשי של טכניקות עקיפה על מודל flan-t5-xxl כדי לראות איפה הוא נכשל.
- אימון לקראת תחרויות
היכרות עם מבנה הבדיקות והניקוד של אתגר hackaprompt ישירות מתוך הדפדפן.
- בחינת עמידות מקומית
הורדת הקוד והרצתו על מחשב אישי עם מפתחות API פרטיים להערכת מודלים נוספים.
איפה זה נופל
הכלי נבנה סביב תחרות ספציפית, כך שהוא בודק עקיפות לפי סט כללים מוגדר מראש ולא נותן תמונה מלאה של אבטחת פרומפטים בכל תרחיש. הוא נשען על נקודת קצה פרטית של flan-t5-xxl, ואם הקישור שם נשבר או שהמפתחות פגים, ההדגמה פשוט לא תעבוד. בנוסף, חומרה בסיסית של מעבד עלולה לגרום להשהיות ארוכות בין שליחת ניסיון לקבלת תוצאה.
שאלות
נפוצות
האם השימוש באפליקציה בחינם?
הגישה בדפדפן דרך השרת הזה אינה כרוכה בתשלום. אם תרצו להריץ את הקוד בעצמכם, תצטרכו לספק מפתח API משלכם ל־OpenAI ולשאת בעלויות הקריאות.
מה קורה עם הטקסט שאני מזין?
הקוד של הכלי מוגדר לשמור את הנתונים ישירות ב־MongoDB עבור בדיקות ורישום של התחרות. מומלץ לא להזין שם מידע רגיש או פרטי.
אפשר להריץ את זה על המחשב שלי?
כן, אפשר לשכפל את המאגר מגיטהאב ולהריץ אותו בסביבת פייתון 3.9 ומעלה עם פקודות pip. תצטרכו להגדיר משתני סביבה מתאימים כולל טוקן למודל ומפתח OpenAI.
האם המודל עצמו רץ על השרת הזה?
לא, השרת הנוכחי מריץ רק את ממשק gradio על מעבד בסיסי. המודל flan-t5-xxl מאוחסן בספייס פרטי נפרד שמתקשר עם הממשק באמצעות טוקן.
איך משתמשים
נכנסים לממשק של gradio, כותבים את הפרומפט בחלון הקלט ושולחים להרצה. החומרה המדווחת כאן היא מעבד בסיסי בלבד, מה שאומר שהממשק עצמו עשוי להגיב לאט אם יש עומס, אם כי קריאות המודל מופנות לשרת מרוחק. אין צורך בהתקנה כדי לשחק, אבל להרצה מקומית מלאה תצטרכו סביבת פייתון 3.9 ומעלה, מפתח של OpenAI וטוקן גישה להוסט הפרטי של המודל.
הרישיון
הרישיון של המאגר לא דווח. בפועל זה אומר שאין לכם אישור רשמי להשתמש בקוד לצרכים מסחריים, וכל מה שאתם מזינים מתועד במסד נתונים פנימי של MongoDB לצורכי מעקב והערכה.