encrypted-anonymization
רץ בדפדפןzama-fheרישיון לא דווח2024-03-06
הכלי מדגים אנונימיזציה של מסמכים ושאילתות באמצעות הצפנה הומומורפית לפני שליחתם לניתוח. הוא פונה למי שרוצה לבחון הגנה על מידע רגיש וזיהוי ישויות בלי לחשוף טקסט גולמי.
- —הורדות בחודש
- 42לייקים
מה זה
מזינים טקסט דרך בחירת משפטים מוכנים מראש או כתיבת שאילתה ידנית בתיבת טקסט ייעודית. הממשק מציג רשימת משפטים לבחירה לצד תפריט נפתח עם שאלות לדוגמה, ומאפשר להזין שאילתה מותאמת אישית.
מאחורי הקלעים רצים המודל obi/deid_roberta_i2b2 ותשתיות Concrete ML של חברת Zama. המערכת מחשבת וקטורי ייצוג לטוקנים, מצפינה אותם, ומבצעת את זיהוי המילים הרגישות מעל המידע המוצפן. התוצאה המוצגת כוללת טקסט שבו פרטים מזהים מוחלפים באנונימיזציה, טבלה פנימית של מילים שזוהו, ואפשרות להעביר את הפלט המותמם לפניה אל ChatGPT עם שחזור מקומי של המזהים בתשובה.
מתאים ל
- בדיקת היתכנות FHE
הערכת היכולת לבצע חישוב של זיהוי ישויות על גבי טקסט וקטורי מוצפן מבלי לפענח אותו בשרת.
- אנונימיזציה לפני פנייה ל־LLM
בחינת תהליך שבו מסירים שמות ומזהים רגישים משאילתות טקסט באנגלית לפני שליחה לעיבוד במודל חיצוני.
- התנסות בספריית Concrete ML
צפייה במבנה עבודה של חבילות פיתוח מבית Zama לשילוב מודלי שפה קיימים עם הצפנה הומומורפית מלאה.
איפה זה נופל
ההדגמה נשענת על מודל deid_roberta_i2b2 שאומן על נתונים באנגלית, בעיקר רפואיים, ולכן היא לא תזהה ישויות בעברית באופן אמין. בנוסף, חלקי מסמך מסוימים בהדגמה נסמכים על בחירת משפטים קבועים מראש, מה שלא מעיד על יכולת עיבוד חופשי של קבצים שלמים. שליחת המידע לצאט תלויה בהגדרות OpenAI בצד השרת, ואינה חלק מהחישוב המוצפן עצמו.
שאלות
נפוצות
האם השימוש באפליקציה כרוך בתשלום?
הגישה בדפדפן היא חינמית ופתוחה ללא צורך בהזנת פרטי תשלום או מנוי. הקוד מופעל על גבי תשתית משותפת ואינו גובה כסף על פעולות האנונימיזציה.
האם אפשר להריץ את הכלי במחשב האישי?
כן, הקוד כולל קובץ app.py והנחיות התקנה מקומיות באמצעות יצירת סביבת פייתון והתקנת חבילות דרך pip. לאחר ההתקנה מריצים את הסקריפט ופותחים את הקישור המקומי בדפדפן.
במה זה שונה מהרצת מודל זיהוי הישויות ישירות?
המודל הרגיל מקבל טקסט קריא ומנתח אותו ישירות. כאן המידע עובר הצפנה הומומורפית, וחישוב הזיהוי מתבצע על הערכים המוצפנים כך שהשרת שמחשב את המודל לא נחשף לתוכן המקורי.
כמה זמן לוקח התהליך על השרת?
ההדגמה פועלת על מעבד רגיל מסוג cpu-basic. חישובים מתמטיים של הצפנה הומומורפית דורשים משאבים כבדים, ולכן שלב האנונימיזציה המוצפנת עשוי להימשך זמן רב יותר מריצה רגילה של מודל שפה.
איך משתמשים
לוחצים תחילה על כפתור ייצור המפתחות הפרטיים ומפתחות ההערכה. לאחר מכן בוחרים את המסמך ולוחצים על הצפנתו, עושים פעולה דומה עבור השאילתה, ומפעילים את כפתור האנונימיזציה בהצפנה מלאה. לבסוף ניתן ללחוץ על כפתור הפנייה לצאט. ההדגמה פועלת על מעבד בסיסי, cpu-basic, כך שפעולות חישוב על טקסט מוצפן עשויות לדרוש המתנה ניכרת. אין צורך בהתחברות משתמש מראש, אך יש תלות בזמינות השרת החינמי.
הרישיון
הרישיון של המרחב לא דווח במאגר. בהיעדר רישיון מוגדר, הקוד והחומרים אינם כוללים היתר שימוש מסחרי מפורש, וכל מידע או שאילתה שמוזנים לממשק נשלחים לשרת שבו רצה האפליקציה.