חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
I

image-to-video-film

רץ בדפדפן

kazukunknown2023-01-15

  • gradio

העלאת רצף תמונות ויצירת סרטון עם תנועה ביניהן. מתאים למי שרוצה לבדוק אינטרפולציה בסיסית בין כמה פריימים בודדים בלי לכתוב קוד.

  • —הורדות בחודש
  • 42לייקים

מה זה

מעלים עד שש תמונות סטילס לפי סדר, מגדירים שני פרמטרים ומקבלים קובץ וידאו מוגמר. האפליקציה מחברת את התמונות לסרטון אחד ויוצרת פריימים מלאכותיים ביניהן כדי שהמעבר ייראה רציף ולא קופצני. ההגדרות היחידות בממשק הן מספר סבבי האינטרפולציה שנעים בין 2 ל־10, וקצב הפריימים לשנייה שנע בין 15 ל־60 fps.

מאחורי הקלעים הקוד מוריד ומריץ את המודל akhaliq/frame-interpolation-film-style, שמשתמש בטכניקת FILM של גוגל לאינטרפולציית פריימים ומבוסס על TensorFlow וספריית mediapy לעיבוד הווידאו. אין בממשק תמונות לדוגמה שמגיעות מוכנות מראש, כך שחייבים להעלות קבצים עצמאיים כדי לראות תוצאה כלשהי.

מתאים ל

  • הנפשת רצף איורים

    חיבור של עד שישה ציורים או איורים דומים לסרטון קצר שזז ברציפות.

  • יצירת סרטוני מעבר

    הפקת סרטון קצר שמציג מעבר מדורג בין כמה מצבי צילום של אותו אובייקט.

  • בדיקת אינטרפולציה מקומית

    לקיחת קוד המקור של Gradio כבסיס להרצה מקומית של מודל הפילם.

איפה זה נופל

הבעיה המיידית היא שהחלל שבור ולא עובד, כך שאין אפשרות לייצר וידאו ישירות מהדפדפן. מעבר לכך, הממשק מוגבל לקליטת שש תמונות בלבד ואין אפשרות להזין סרטון קיים כדי להעלות לו את קצב הפריימים. כדאי לזכור שהמודל מנסה לנחש תנועה בין נקודות קבועות, ואם ההבדל הזוויתי או התנועתי בין התמונות שתעלו יהיה גדול מדי, תקבלו עיוותים ומריחות מוזרות במקום תנועה חלקה.

שאלות
נפוצות

האם הכלי עובד עכשיו בדפדפן?

לא, הדף נמצא במצב של שגיאת בנייה ולכן אי אפשר להשתמש בו ישירות. כדי להריץ את הממשק תצטרכו להוריד את הקוד מ־app.py, לתקן את הסביבה ולהפעיל אותו אצלכם. נכון לעכשיו הוא לא זמין לשימוש מיידי ברשת.

האם השימוש עולה כסף?

האפליקציה פתוחה לצפייה בחינם בהאגינג פייס ולא דורשת מנוי או תשלום. עם זאת, מכיוון שהיא במצב תקול, אי אפשר לנצל אותה כרגע בלי להוריד את הקבצים. הקוד והמודל עצמם פתוחים לגישה חופשית.

אפשר להריץ את זה על המחשב שלי?

כן, הקוד כתוב בפייתון ומשתמש ב־Gradio, Mediapy ו־TensorFlow. תצטרכו להתקין את התלויות ולהוריד את משקלי המודל akhaliq/frame-interpolation-film-style דרך הקוד. מומלץ להריץ את זה על מחשב עם כרטיס מסך כדי לא להמתין זמן רב.

במה הממשק שונה מהרצת המודל ישירות?

המודל המקורי הוא כלי גמיש שיודע לחשב פריימים עבור כל קובץ וידאו או רצף תמונות בכל אורך. כאן נבנתה עטיפה מוגבלת מאוד שקולטת בדיוק שש תמונות סטילס ומפיקה סרטון בודד. היא חוסכת כתיבת פקודות בקוד אבל מצמצמת את יכולות המודל.

איך משתמשים

בפועל אתם גוררים קבצי תמונה לתיבות Frame 1 עד Frame 6, מכוונים את הסליידרים של קצב הפריימים ומספר האינטרפולציות, ולוחצים על Generate Video. כרגע אי אפשר להריץ את זה בדפדפן בכלל כי הדף תקוע על שגיאת בנייה BUILD_ERROR. גם אם הקוד היה עולה, הוא מוגדר לרוץ על חומרת cpu-basic חלשה בלי מאיץ גרפי, כך שעיבוד וידאו כזה על מעבד רגיל היה לוקח דקות ארוכות מאוד לכל סרטון קצרצר.

הרישיון

הרישיון מוגדר כ־unknown ולא צוין בעמוד. כשאין רישיון ברור לא כדאי להעלות חומרים רגישים או מסחריים, ומבחינה משפטית אין אישור מפורש לשימוש בתוצרים מעבר לבדיקה פרטית.

הרישיון המלא ב־Hugging Face ↗