GPT
D

Diffusion-Attentive-Attribution-Maps

רץ בדפדפן

tetrisdmit2022-10-10

  • gradio

הדגמה שמייצרת מפות חום של תשומת לב מתוך סטייבל דיפיוז'ן כדי לראות אילו מילים השפיעו על פיקסלים בתמונה. היא מיועדת לחוקרים שמנתחים את פעולת המודל.

  • הורדות בחודש
  • 88לייקים

מה זה

כותבים פרומפט טקסטואלי, בוחרים תואר מתוך המשפט כדי להחליף אותו באחר, וקובעים בין 15 ל־30 צעדי יצירה. הממשק משתמש בספריית spacy כדי לנתח תחבירית את המילים ומציג את התוצאה כעץ תלויות ישירות בדפדפן.

בצד התוצאות מקבלים שתי לשוניות עם גרפים של matplotlib. לשונית אחת מציגה את התמונות שנוצרו, והשנייה מציגה מפות ייחוס שנוצרות באמצעות חבילת daam, שעוקבת אחרי שכבות תשומת הלב הפנימיות במודל. לפי הקוד, הוא מוגדר לעבוד עם גרסאות שונות של סטייבל דיפיוז'ן, מגרסה 1.5 ועד 2.1.

מתאים ל

  • ניתוח השפעת מילים

    צפייה במפת חום שמראה אילו פיקסלים הושפעו מתואר מסוים בפרומפט.

  • בדיקת חלופות טקסט

    החלפת שמות תואר בתוך המשפט ובדיקת השינוי הוויזואלי בתמונה.

  • ניתוח תחבירי להנחיות

    הצגת עץ תלויות תחבירי של הפרומפט כדי להבין איך המחשב קורא אותו.

איפה זה נופל

הבעיה המיידית היא שההדגמה קרסה ומציגה שגיאת מערכת, כך שאי אפשר להריץ בה פרומפטים ישירות ברשת בלי לתקן את הקוד או להרים אותו מקומית. מעבר לזה, מפתחי הכלי הגבילו מראש את צעדי ההרצה ל־30 בלבד, מה שמונע בדיקה באיכות גבוהה יותר. הממשק גם מוגבל להחלפת שמות תואר בלבד מתוך הניתוח הדקדוקי, ולא מאפשר התעסקות חופשית עם מבנה המשפט.

שאלות
נפוצות

האם הכלי עובד עכשיו בדפדפן?

לא. העמוד מדווח על שגיאת ריצה, ולכן אי אפשר לייצר תמונות או מפות כרגע דרך האתר ללא תיקון של הקוד.

אפשר להריץ את זה על המחשב?

כן, הקוד זמין תחת רישיון פתוח ומשתמש בספריות סטנדרטיות כמו diffusers ו־daam. תצטרכו כרטיס מסך שמסוגל להריץ סטייבל דיפיוז'ן והגדרת סביבת פייתון מתאימה.

במה הממשק הזה שונה מסתם מחולל תמונות?

הוא לא נועד רק ליצירת תמונה אלא להסברתיות. הוא מחלץ את שכבות הקשב ומציג מפה ויזואלית שמקשרת בין מילה ספציפית לבין האזור שנוצר בגללה.

איך משתמשים

מזינים פרומפט בתיבת הטקסט, בוחרים אם להפעיל סיד אקראי, וגוררים את הסליידר לקביעת כמות הצעדים מ־15 עד 30. אפשר לבחור מילה ספציפית מהתפריט ולהקליד לה חלופה כדי להשוות תוצאות, ואז לוחצים על כפתור השליחה.

הקוד רץ על מעבד גרפי מדגם T4 עם זיכרון בינוני, מה שאמור להספיק לריצת דיפיוז'ן קצרה בכמה שניות עד עשרות שניות בודדות לכל תמונה. עם זאת, אין צורך להתחבר או להמתין בתור כרגע, כי היישום נמצא במצב של שגיאת ריצה בעמוד של האגינג פייס ולא מגיב לפקודות.

הרישיון

הקוד מופץ תחת רישיון MIT שמאפשר שימוש חופשי, שינוי והרצה, כולל מסחרית, ללא הגבלה מיוחדת. התוכן שאתם מזינים ומפות החום שמיוצרות שייכים לכם, אך כפופים לרישיונות הבסיס של המודלים המופעלים ברקע.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗