llm-guard-playground

מה זה

מזינים טקסט של פרומפט או פלט של מודל, והקוד מעביר אותו דרך ספריית הסינון כדי לזהות הזרקות, דליפות מידע או תוכן לא בטוח. במקום להמציא בדיקות מאפס, בוחרים מתוך רשימת דוגמאות מוכנות בקבצי טקסט שמגיעות עם הממשק, או מקלידים תוכן משלכם לשני העמודות.

מאחורי הקלעים רץ הקוד של llm-guard יחד עם מנגנון כספת לשמירת ערכים רגישים, כשפונקציות סריקה ייעודיות בודקות את הפרומפטים ואת התשובות בנפרד. התוצאה מציגה אם הטקסט נקי, אילו סורקים הופעלו, והאם הוא חסם או שינה את התוכן שהוזן.

מתאים ל

• בדיקת פרומפטים

  סורקים טקסט קלט ומזהים ניסיונות עקיפה או הזרקת הוראות זדוניות למודל.

• סינון פלט ממודלים

  מריצים בדיקות על תוכן שנוצר על ידי מודל שפה לפני שהוא מוצג למשתמשי קצה.

• התנסות בסורקים שונים

  משחקים עם ההגדרות של הספריה כדי לראות אילו כללי סינון מתאימים למוצר.

איפה זה נופל

ההדגמה תקועה במצב של שגיאת בנייה ולא עולה כרגע בקישור הציבורי. מעבר לזה, הממשק מסתמך על דוגמאות טקסט קצרות ועל חומרת מעבד בסיסית, כך שאי אפשר להבין ממנו איך הסינון יתנהג בעומס אמיתי או על כמויות תוכן גדולות.

איך משתמשים

נכנסים לממשק שנבנה בסטרימליט, בוחרים דוגמה של פרומפט או פלט מתוך תיבת הבחירה, ומגדירים את הסורקים בעמוד. אין צורך בהתחברות או ביצירת חשבון, אבל נכון לעכשיו העמוד מדווח על שגיאת בנייה ולכן הוא לא ירוץ בדפדפן עד שהקוד יתוקן. כשהוא כן רץ על מעבד בסיסי, סריקות טקסט קצרות לוקחות כמה שניות בלבד.

הרישיון

הקוד מפורסם תחת רישיון MIT שמאפשר שימוש חופשי, העתקה והרצה מקומית. אין דיווח מפורש לגבי שמירת הטקסט שאתם מזינים בממשק הרשת, כך שעדיף לא להעלות מידע רגיש להדגמה ציבורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗