GPT
A

AnimateImage

רץ בדפדפן

AP123creativeml-openrail-m2023-12-04

  • gradio

הדגמה שמנפישה תמונה סטטית לקובץ גיף קצר בעזרת טקסט ותנועת מצלמה. היא מתאימה למי שרוצה לבדוק שילוב של אנימציה והנחיית תמונה בלי להתקין סביבה מקומית.

  • הורדות בחודש
  • 119לייקים

מה זה

אתם מעלים תמונת מקור, מקלידים פרומפט טקסטואלי, בוחרים תנועת מצלמה מתוך שלוש אפשרויות וקובעים את עוצמת ההשפעה של התמונה המקורית. בתמורה מקבלים קובץ גיף מונפש שנוצר ישירות מהשילוב הזה.

מאחורי הקלעים הקוד מחבר שלושה רכיבים שונים. הוא משתמש במודל הבסיס Realistic Vision בגרסה שש בלי רכיב VAE, משלב עליו מתאם תנועה מסוג AnimateDiff בגרסה אחת וחצי, ומפעיל IP-Adapter כדי לשמור על הדמיון החזותי לתמונה שהעליתם. הצינור הזה מבוסס על Diffusers עם מתזמן DDIM, כשהמטרה היא להניע את הסצנה לפי פקודת הטקסט תוך שמירה על תווי התמונה המקורית.

מתאים ל

  • הנפשת תמונת פורטרט

    מעלים צילום פנים ומוסיפים תנועת מצלמה של זום החוצה לקבלת קובץ גיף קצר לרשתות חברתיות.

  • המחשת תנועה בנוף

    לוקחים תמונת נוף סטטית, בוחרים הסטה שמאלה ומקלידים הנחיית עננים זזים ליצירת תנועה בסצנה.

  • בדיקת שילוב מודלים

    בוחנים איך השפעת מתאם התמונה משתנה מול מתאם התנועה לפי ערכי המחוון השונים.

איפה זה נופל

הבעיה המרכזית כרגע היא שהאפליקציה פשוט לא עובדת בדפדפן בגלל שגיאת בנייה בקוד. מעבר לכך, אפשרויות התנועה מוגבלות לשלושה כיווני מצלמה בלבד, כך שאין שליטה מורכבת על גופים זזים בתוך הפריים. מחוון החוזק מאפשר לטפס עד ארבע, אבל ערכים גבוהים מדי עלולים לעוות לחלוטין את התוצאה מול הפרומפט.

שאלות
נפוצות

האם אפשר להשתמש באפליקציה כרגע?

לא באופן ישיר דרך הדפדפן. המערכת מציגה שגיאת בנייה שמונעת מהממשק להיטען, ולכן צריך לחכות שהיוצר יתקן אותה או לקחת את הקוד ממאגר הגיט ולהריץ אותו ידנית.

מה קורה לתמונות שאני מעלה?

העיבוד מתבצע בזיכרון של סביבת הריצה של גרדיו עבור יצירת הגיף. הקוד המקורי לא שומר את התמונות שלכם בבסיס נתונים חיצוני, אך מומלץ לא להעלות חומרים רגישים לסביבות ציבוריות.

האם ניתן להריץ את הקוד על המחשב האישי?

כן, הקוד מבוסס על ספריות פייתון סטנדרטיות ומודלים ציבוריים שזמינים להורדה. תצטרכו כרטיס מסך עם מספיק זיכרון כדי להחזיק את מודל הבסיס יחד עם שני המתאמים ברמת דיוק של 16 ביט.

במה ההדגמה הזאת שונה מהרצת המודלים בנפרד?

היא חוסכת את כתיבת הצינור שמשלב בין מתאם התנועה לבין שמירת תוכן התמונה המקורית. במקום להגדיר את החיבורים בקוד, מקבלים ממשק מוכן שמאפשר לשחק עם הפרמטרים במקום אחד.

איך משתמשים

הממשק מציג שדות פשוטים להעלאת תמונה, תיבת טקסט, בחירה בין זום החוצה, הטיה למעלה או פנייה שמאלה, ומחוון עוצמה שנע בין אפס לארבע. מוגדרת עבורו חומרת A10G גדולה שמספקת כוח עיבוד מהיר יחסית לרינדור של גיף, אך נכון לעכשיו העמוד מדווח על שגיאת בנייה ולכן אי אפשר להריץ אותו ישירות בדפדפן.

הרישיון

הפרויקט מוגדר תחת רישיון openrail מסוג creativeml. הרישיון מאפשר שימוש חופשי כולל שימוש מסחרי במודלים, בכפוף להגבלות השימוש הרגילות שמצורפות אליו ומונעות פגיעה באחרים.

  • שימוש מסחרי
  • שינוי הקוד
  • מגבלות שימוש ברישיון

הרישיון המלא ב־Hugging Face ↗