חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
S

Switti

רץ בדפדפן

dbaranchukרישיון לא דווח2024-12-02

  • gradio

הדגמה שמייצרת תמונות מטקסט ומיועדת לחוקרים או מפתחים שרוצים לבדוק ארכיטקטורה חלופית לדיפוזיה רגילה. אתם כותבים תיאור באנגלית ומקבלים תמונה שנוצרה באמצעות שילוב מודלים ייחודי.

  • —הורדות בחודש
  • 39לייקים

מה זה

אתם מקלידים פרומפט טקסטואלי ומקבלים תמונה בודדת. הממשק נותן שליטה על סיד ועל guidance scale, ובחלק המתקדם פותח אפשרויות כמו פרומפט שלילי, פרמטרים של top k ו־top p, החלקה בעזרת Gumbel softmax ודגימה מגוונת יותר.

מאחורי הקלעים רץ הצינור של yresearch/Switti יחד עם VQVAE-Switti, כשהוא נעזר במודלים של CLIP של OpenAI ו־LAION כדי להבין את הטקסט, לצד רכיבים ממשפחת Stable Diffusion. המבנה הזה נשען על טוקניזציה ויזואלית ולא רק על תהליך דיפוזיה סטנדרטי.

מתאים ל

  • בדיקת איכות יצירת תמונות

    מזינים תיאור מילולי ובוחנים איך המודל מפרש מושגים שונים בהשוואה לדיפוזיה רגילה.

  • ניסוי בפרמטרים של דגימה

    משנים את ערכי top k ו־Gumbel softmax כדי לראות איך הם משפיעים על חדות התוצאה.

  • בחינת יכולות טוקניזציה

    בודקים איך המבנה של Switti ו־VQVAE מתרגם טקסט מורכב לקומפוזיציה חזותית.

איפה זה נופל

הבעיה המיידית היא שהאפליקציה נמצאת במצב של תקלת ריצה, כך שאי אפשר לייצר בה תמונות כרגע. מעבר לכך, ההדגמה מציגה רק שדה טקסט ותמונה בודדת בלי אפשרות להעלות תמונות מקור לעריכה או להשתמש בטכניקות של בקרה כמו ControlNet. כדי לראות מה המודל באמת שווה, תצטרכו להמתין שיתקנו את השרת או להריץ את הקוד שלו עצמאית.

שאלות
נפוצות

האם השימוש באפליקציה עולה כסף?

הגישה לממשק פתוחה בדפדפן ללא תשלום. אין צורך להזין אמצעי תשלום כדי לנסות אותו. כל מה שנדרש זה שהעמוד יעלה ויעבוד.

למה האפליקציה לא מייצרת תמונה כרגע?

העמוד נמצא במצב של תקלת הרצה בקוד של השרת. כל עוד המפתח לא יתקן את הבעיה בטעינה, אי אפשר להפיק דרכו תוצאות. אפשר לבדוק שוב מאוחר יותר.

האם אפשר להריץ את המודל על המחשב במקום?

כן, הקוד מסתמך על ספריות פתוחות ועל משקלי מודל שיושבים במאגרים של yresearch. תצטרכו סביבת פייתון מתאימה עם תמיכה בכרטיס מסך כדי להריץ את הצינור הזה עצמאית.

במה הממשק הזה שונה מהרצת המודל ישירות?

הממשק מציע פקדים מוכנים מראש כמו תיבות סימון וסליידרים להגדרות דגימה בלי לגעת בקוד. עם זאת, הוא מגביל אתכם למה שהמפתח בחר לחשוף בטופס ולא נותן גמישות מלאה בתהליך היצירה.

איך משתמשים

בפועל אתם מקלידים תיאור, משנים הגדרות מתקדמות אם רוצים, ולוחצים על כפתור Run. הממשק מבוסס על מודול spaces, כך שהעיבוד אמור להשתמש בהקצאת חומרה ייעודית ולא בשרת המרכזי. עם זאת, נכון לעכשיו העמוד מדווח על תקלת ריצה ולא מגיב. אם התקלה תיפתר, אין צורך בהרשמה מיוחדת או בתשלום כדי להריץ בדיקה.

הרישיון

הרישיון של המרחב לא דווח כלל. המשמעות היא שאין הרשאה ברורה להשתמש בתוצרים באופן מסחרי, ואין התחייבות רשמית לגבי שמירת הפרטיות על הטקסט שאתם מקלידים שם.

הרישיון המלא ב־Hugging Face ↗