חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
C

ChronoDepth

רץ בדפדפן

jhshaocc-by-4.02024-06-11

  • gradio

העלאת קובץ וידאו מקבלת מפת עומק ששומרת על יציבות לאורך זמן. הכלי פונה לחוקרים ומפתחי תלת מימד שרוצים לבחון הערכת עומק מבוססת מודלי דיפוזיה בלי להרים סביבה מקומית.

  • —הורדות בחודש
  • 62לייקים

מה זה

אתם מעלים קטע וידאו יחיד דרך הדפדפן, והכלי מחזיר וידאו צבוע שממחיש את מפת העומק יחד עם קבצי התוצאה להורדה. המערך כולל דוגמאות וידאו מוכנות מראש ששמורות בתיקיית הדוגמאות של הממשק ומאפשרות לראות את התוצאות בלי להעלות קובץ משלכם.

מאחורי הקלעים רץ שילוב בין המודל ChronoDepth-v1 לבין מודל הדיפוזיה של stabilityai מדגם stable-video-diffusion-img2vid-xt. הרעיון במחקר הוא לקחת את הידע שקיים במודלי וידאו מבוססי דיפוזיה כדי לייצר הערכת עומק עקבית בין פריים לפריים, ולא להסתפק בחישוב סטטי של תמונה בודדת שגורם להבהובים.

מתאים ל

  • הערכת עומק לווידאו

    הפקת רצף עומק עקבי מקובץ וידאו קיים לשימוש בשחזור סצנות.

  • בדיקת תוצאות מחקר

    צפייה בדוגמאות מרונדרות מראש כדי לבחון את המאמר בלי התקנה.

  • הורדת קבצי עומק

    חילוץ קבצי העומק והווידאו הצבוע לעיבוד נוסף בתוכנות תלת מימד.

איפה זה נופל

הבעיה המיידית היא שההדגמה מוגדרת במצב תקלה ולא תרוץ לכם בדפדפן כרגע. מעבר לזה, המודל מבצע שינוי גודל לרזולוציה מקסימלית מסוימת בקוד, כך שאיכות הווידאו המקורי לא תישמר במלואה. מי שרוצה לבדוק את הביצועים בפועל יצטרך לקחת את הקוד מהמאגר ולהריץ אותו באופן עצמאי.

שאלות
נפוצות

האם הכלי עובד עכשיו בדפדפן?

לא. האפליקציה נמצאת במצב שגיאת הרצה ולכן לחיצה על כפתור העיבוד תיכשל, אלא אם כן מתבססים על הדוגמאות שנשמרו מראש.

האם השימוש כרוך בתשלום?

לא. הממשק פתוח לשימוש חופשי ומשתמש בחומרה שמוקצית בחינם דרך הדפדפן.

אפשר להריץ את זה במחשב האישי?

כן. הקוד זמין במאגר ציבורי של החוקרים בגיטהאב, וניתן להתקין אותו עצמאית עם ספריות PyTorch וכרטיס מסך תואם.

איך משתמשים

נכנסים לממשק, מעלים וידאו לתיבת הקלט או בוחרים מתוך הדוגמאות המוכנות, ולוחצים על כפתור השליחה. יש גם כפתור איפוס למקרה שרוצים להתחיל מחדש. הממשק מציג פס התקדמות בזמן העיבוד, ופועל על תשתית Zero-A10G של Hugging Face שמקצה כרטיס גרפי בעת ההרצה. עם זאת, אין צורך להמתין כרגע כי המופע בדפדפן תקוע בשגיאת הרצה.

הרישיון

הפרויקט מפורסם תחת רישיון cc-by-4.0. הרישיון הזה מתיר שימוש חופשי ושיתוף, כולל שימוש מסחרי, בתנאי שנותנים קרדיט מתאים ליוצרים המקוריים.

  • שימוש מסחרי
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא ב־Hugging Face ↗