חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
H

HiDiffusion

רץ בדפדפן

multimodalartmit2024-04-24

  • gradio

הדגמה שמייצרת תמונות ברזולוציה גבוהה ממודלים מוכנים של סטייבל דיפיוז'ן בלי עיוותים נפוצים. היא מיועדת למי שרוצה לבדוק יצירת תמונות גדולות בחינם ישר מהדפדפן.

  • —הורדות בחודש
  • 40לייקים

מה זה

הכלי מקבל פרומפט טקסטואלי ופרומפט שלילי, ומפיק תמונה ברזולוציה גבוהה ישירות מהרשת. הממשק מחולק לשתי לשוניות נפרדות, אחת מיועדת למודל SDXL ומייצרת תמונות בגודל 2048 על 2048, והשנייה למודל SD 1.5 שמפיקה גודל של 1024 על 1024.

מאחורי הקלעים רץ הקוד של HiDiffusion על גבי מעבדי הצינור הרגילים של דיפיוז'ן, יחד עם תיקון ה־VAE של madebyollin. השיטה מתבססת על התאמת ארכיטקטורת ה־U-Net ומנגנון ה־Self-Attention לרזולוציות גבוהות, במטרה למנוע שכפול איברים או שבירה של הקומפוזיציה שקורית בדרך כלל כשמנסים לחרוג מהגודל המקורי.

מתאים ל

  • יצירה ישירה ב־2048x2048

    הפקת תמונות ענק ב־SDXL בלי צורך בתהליך הגדלה נפרד.

  • הפקת תמונות SD 1.5 כפולות

    ריצה של מודל 1.5 הישן ברזולוציית 1024 על 1024 בלי לשכפל דמויות.

  • בדיקת שיטת HiDiffusion

    בחינת איכות התוצאות של האלגוריתם בהשוואה לריצות דיפיוז'ן רגילות.

איפה זה נופל

הממשק בסיסי מאוד ולא מציע שליטה על כמות הצעדים, ה־seed, או גודל התמונה מעבר לרזולוציות הקבועות מראש. בנוסף, המצב המושהה של ההדגמה אומר שלא ניתן לייצר בה דבר כרגע, אלא אם מריצים את הקוד באופן עצמאי.

שאלות
נפוצות

האם השימוש בהדגמה עולה כסף?

לא, הממשק פתוח לשימוש חופשי ואינו דורש תשלום. עם זאת, נכון לעכשיו הוא במצב מושהה ולא פעיל.

האם אפשר להריץ את זה על המחשב?

כן, הקוד מבוסס על ספריות פתוחות ורישיון MIT. ניתן למשוך את הקבצים ולהריץ אותם מקומית עם מעבד גרפי מתאים.

במה זה שונה מסתם להגדיל רזולוציה בסטייבל דיפיוז'ן?

כשמגדילים רזולוציה במודל רגיל מקבלים לרוב כפילויות של גופים ועיוותים קשים. השיטה כאן מתערבת בתוך שכבות ה־U-Net ומאפשרת יצירה חלקה ישירות בגודל היעד.

מה קורה עם הטקסטים והתמונות שמזינים?

המידע נשלח ישירות לסביבת הריצה של הדפדפן ו־Hugging Face לצורך העיבוד. אין בקוד מנגנון ייעודי לשמירה של הפרומפטים שהקלדתם.

איך משתמשים

בוחרים לשונית לפי המודל הרצוי, כותבים תיאור בשדה הפרומפט, מוסיפים הנחיות שלילה אם צריך, ולוחצים על Run. המערכת מוגדרת לרוץ על חומרת Zero-A10G שמקצה כרטיס גרפי לפי דרישה, ויש מד התקדמות שמציג את התהליך. נכון לעכשיו סטטוס ההדגמה מוגדר כמושהה, כך שאין אפשרות להריץ אותה ישירות לפני שהיא תופעל מחדש ברשת.

הרישיון

הפרויקט מפורסם תחת רישיון MIT, מה שמאפשר שימוש חופשי בקוד, כולל עריכה, הפצה ושילוב בפרויקטים מסחריים. לגבי התמונות שנוצרות, אין הגבלה מפורשת בחומר מעבר לתנאי הרישיון המקוריים של המודלים המופעלים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗