חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
P

paella

רץ בדפדפן

pcuenqmit2022-11-16

  • gradio

הדגמה שמייצרת תמונות מטקסט בעזרת מודל דחוס שמיועד לעבוד בכעשרה צעדים בלבד. היא מתאימה למי שרוצה לראות את Paella בפעולה דרך ממשק פשוט.

  • —הורדות בחודש
  • 54לייקים

מה זה

מקלידים תיאור טקסטואלי של התמונה שרוצים לקבל, ואפשר להוסיף הנחיה שלילית כדי להרחיק אלמנטים לא רצויים. הממשק פולט גלריה של תמונות שנוצרו ישירות מהטקסט שלכם. מתחת למכסה המנוע רץ המודל pcuenq/Paella, שעושה שימוש במרחב לטנטי מכווץ שמבוסס על f8 VQGAN, לצד טוקנייזר ומודל שפה מסוג ByT5-XL של גוגל לפענוח הטקסט.

המבנה הזה נשען על שיטת אימון מבוססת מיסוך שמטרתה לייצר תמונה בכעשרה צעדי הסקה בלבד, בלי התהליך האיטי והארוך שנפוץ במודלי דיפוזיה סטנדרטיים. בהגדרות המתקדמות אפשר לקבוע גם ערך סיד כדי לשחזר תוצאות מדויקות, אך הממשק אינו מציג דוגמאות מובנות מראש.

מתאים ל

  • בדיקת ארכיטקטורת Paella

    הזנת פרומפטים כדי לראות איך מודל מבוסס VQGAN ומיסוך מייצר תמונות מעטות שלבים.

  • ניסוי ביצירה עם סיד קבוע

    שינוי טקסט חיובי ושלילי תחת אותו ערך סיד כדי לבחון שינויים ספציפיים בפלט.

  • בחינת יכולות ByT5 בטקסט

    בדיקה איך המקודד של גוגל מפרש תיאורים מילוליים מורכבים לפני יצירת התמונה.

איפה זה נופל

הבעיה המיידית היא שהאפליקציה במצב תקול ולא רצה כרגע בדפדפן. מעבר לכך, היא מציגה גרסה בסיסית מאוד של מחולל תמונות ולא חושפת אפשרויות שליטה מתקדמות מעבר לקביעת סיד. מי שמצפה לביצועים המהירים שהחוקרים הבטיחו בכעשרה צעדים יתאכזב מהריצה על מעבד רגיל במקום כרטיס מסך ייעודי.

שאלות
נפוצות

האם השימוש באפליקציה עולה כסף?

לא, הגישה בדפדפן פתוחה לגמרי ללא תשלום. אין צורך להכניס כרטיס אשראי או לרכוש מנוי. עם זאת, נכון לעכשיו יש בה שגיאת מערכת והיא אינה פעילה.

האם אפשר להריץ את הקוד באופן מקומי במחשב שלי?

כן, הפרויקט מופץ תחת רישיון MIT שמאפשר להוריד את הקוד ולהריץ אותו אצלכם. הקוד מבוסס על ספריות מוכרות כמו PyTorch, Hugging Face ו־Gradio. הרצה מקומית על כרטיס מסך עצמאי תאפשר לקבל את מהירות היצירה המקורית של המודל.

במה הדף הזה שונה מהרצת המודל ישירות בסקריפט?

הדף עוטף את המודל בממשק גרפי מינימליסטי שכולל שדות טקסט וכפתור הפעלה. הוא חוסך התקנות אבל רץ על מעבד בסיסי שמאט מאוד את התהליך. בסקריפט עצמאי אפשר לשלוט על כל הפרמטרים של המודל ולהריץ על חומרה מתאימה.

האם צריך לפתוח חשבון כדי לנסות את ההדגמה?

אין שום דרישה להתחבר או לפתוח חשבון כדי לצפות בממשק. נכנסים ישירות לקישור בדפדפן ומקבלים גישה לשדות ההזנה. כל עוד האפליקציה מציגה שגיאת ריצה, גם משתמשים רשומים לא יכולים לייצר בה תמונות.

איך משתמשים

כותבים פרומפט בשדה הטקסט, מגדירים פרומפט שלילי אם רוצים, פותחים את ההגדרות המתקדמות לקביעת סיד ולוחצים על Generate image. בפועל, כרגע הדף מדווח על שגיאת ריצה ולכן אי אפשר להפיק תמונה. בנוסף, הוא מוגדר על חומרת מעבד בסיסית, כך שגם כשהקוד יעלה שוב, יצירת תמונות על מעבד תהיה אטית בהרבה ממה שהארכיטקטורה מאפשרת על מאיץ גרפי.

הרישיון

הקוד מפורסם תחת רישיון MIT, שמאפשר שימוש חופשי, שינוי והפצה גם לצרכים מסחריים. לגבי התמונות שנוצרות או הטקסטים שמזינים, אין פירוט משפטי נוסף מעבר לתנאי השימוש הרגילים ברישיון ובשרתי הריצה.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗