CyberSecEval
רץ בדפדפןfacebookapache-2.02023-12-06
לוח תוצאות שמרכז נתוני אבטחת מידע על מודלי שפה שונים. הוא מציג גרפים והשוואות למי שרוצה לבדוק כמה מודלים עמידים בפני בקשות זדוניות או כתיבת קוד פגיע.
- —הורדות בחודש
- 73לייקים
מה זה
בדף הזה לא מריצים פרומפטים ישירות ולא בודקים קוד חי. מדובר בלוח תוצאות אינטראקטיבי שמציג ניתוח של מבחני אבטחה שכבר בוצעו על מודלים שונים, כשהנתונים נטענים מקובצי מידע מוכנים מראש בעזרת פנדס ומוצגים בגרפים של פלוטלי.
בפנים תראו השוואה בין שיעור הסירוב האמיתי לבין שיעור ההפרה של בקשות סייבר, לצד גרף עמודות שמפרק את שיעור המעבר במבחני קוד לא מאובטח לפי קטגוריות שונות ומודלים שונים. הדוגמאות שם מציגות את המספרים היבשים של כל מודל, כדי שתוכלו לראות מי נוטה לסרב ומי פולט חולשות אבטחה בקוד.
מתאים ל
- השוואת מודלים בסייבר
בדיקת שיעורי סירוב מול הפרות אבטחה בין מודלי שפה שונים לפני שבוחרים מודל לפיתוח.
- בחינת ייצור קוד פגיע
צפייה בשיעור המעבר של מודלים במבחני קוד לא מאובטח לפי קטגוריות ספציפיות.
- מחקר והערכת סיכונים
שימוש בנתוני המבחנים כדי להבין את רמת הבטיחות של מודלים שונים מול מתקפות סייבר.
איפה זה נופל
זהו לוח נתונים סטטי במהותו ולא כלי להרצת בדיקות סייבר על המודלים שלכם. אי אפשר להזין קוד אישי, להעלות קבצים או לבדוק מודל עצמאי שלא נכלל במאגר המקורי. מי שמחפש סריקת חולשות בזמן אמת יצטרך לפנות לקוד המקור של הפרויקט ולא להסתפק בעמוד התצוגה הזה.
שאלות
נפוצות
האם השימוש בעמוד עולה כסף?
לא, הגישה פתוחה לגמרי לכולם ישירות דרך הדפדפן. אין צורך להירשם, להזין פרטי תשלום או לחבר חשבון חיצוני כדי לצפות בנתונים.
מה קורה עם קבצים או פרומפטים שאני מזין?
אין בממשק שום שדה קלט לקבצים או לטקסט, כך ששום מידע אישי לא מועלה לשרתים. העמוד רק מציג גרפים שמבוססים על קובצי נתונים מוכנים מראש.
כמה זמן לוקח לנתונים להופיע?
הטעינה אורכת שניות בודדות ברגע שפותחים את הקישור. מכיוון שמדובר בקריאת נתונים קיימים ולא בהרצה של מודל שפה כבד, הגרפים מגיבים מיד.
האם אפשר להריץ את זה מקומית על המחשב?
כן, קוד הממשק כתוב בספריית סטרים-ליט הסטנדרטית בפייתון ומפורסם בקוד פתוח. אפשר למשוך את הקבצים, להתקין את החבילות ולהרים את הלוח על המחשב שלכם.
איך משתמשים
נכנסים לקישור בדפדפן והעמוד נטען מיד, בלי שצריך להירשם או להזין מפתח גישה. הכל רץ על חומרת מעבד בסיסית, אבל מכיוון שלא מתבצע כאן שום חישוב כבד אלא רק ציור של גרפים וטבלאות מתוך נתונים קיימים, התצוגה עולה מהר ואין זמני המתנה או תורים.
הרישיון
הפרויקט מפורסם תחת רישיון אפאצ'י שתיים אפס, שמתיר שימוש חופשי, שינוי והפצה, כולל לצרכים מסחריים. מאחר שלא מעלים לכאן שום תוכן ואין אפשרות שמירה, אין שום נתון אישי שנשמר בשרת.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים