חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
U

unimatch

רץ בדפדפן

haofeixumit2022-11-14

  • gradio

הדגמת דפדפן לחישוב זרימה אופטית או התאמת סטריאו בין שני פריימים. מתאימה למי שרוצה לבדוק התאמות תנועה או עומק בין תמונות בלי להוריד קוד.

  • —הורדות בחודש
  • 56לייקים

מה זה

אתם מעלים שתי תמונות ובוחרים משימה: flow או stereo. במצב זרימה מעלים שני פריימים עוקבים מתוך וידאו, ובמצב סטריאו מעלים תמונת שמאל ותמונת ימין. הממשק מחזיר מפת צבעים שמציגה את התנועה בין הפריימים או את הדיספריטי של העומק.

מאחורי הקלעים רץ UniMatch, מודל שמבוסס על PyTorch ומאחד חישובי זרימה אופטית והתאמות סטריאו תחת אותה ארכיטקטורה. לפי הקוד, התוצאה עוברת המרה למפה ויזואלית דרך פונקציות תצוגה ייעודיות לזרימה ולעומק, ויש בממשק דוגמאות מובנות שאפשר לטעון בלחיצה.

מתאים ל

  • הערכת תנועה בין פריימים

    בדיקת וקטורי זרימה אופטית בין שתי תמונות עוקבות מתוך וידאו.

  • התאמת עומק מזוג מצלמות

    הפקת מפת דיספריטי בין תמונת שמאל לתמונת ימין של מערך סטריאו.

  • בדיקת ביצועי המודל

    השוואה מהירה בין תוצאות המודל לתמונות שלכם לפני הטמעה בקוד.

איפה זה נופל

ההדגמה מקבלת רק זוגות תמונות בודדים, בלי אפשרות לעבד קובצי וידאו מלאים ברצף. היא מוציאה רק תמונת ויזואליזציה צבעונית ולא קובץ נתונים גולמי של וקטורי תנועה, כך שאי אפשר להשתמש בפלט ישירות בצינור עיבוד אחר. בגלל שהשרת מוגבל למעבד חלש, הביצועים כאן אינם מייצגים את המהירות האמיתית של המודל על כרטיס מסך ייעודי.

שאלות
נפוצות

האם השימוש בהדגמה כרוך בתשלום?

השימוש חופשי לחלוטין ופתוח לכולם בדפדפן. אין צורך להכניס אמצעי תשלום ואין מגבלת שימוש יומית שמופיעה בעמוד. אתם רק נכנסים ומעלים תמונות.

מה קורה לתמונות שאני מעלה לכאן?

התמונות נשלחות לשרת שמריץ את הממשק כדי לייצר את מפת התנועה או העומק. השרת פועל בסביבה ציבורית שאינה מבטיחה פרטיות. אם מדובר בחומרים רגישים, עדיף לא להעלות אותם.

האם אפשר להריץ את המודל באופן מקומי?

הקוד המלא זמין ברישיון חופשי וכולל הפניות למאגר הגיטהאב ולמחברת קולאב. אפשר להתקין אותו אצלכם ולהריץ על כרטיס מסך מקומי לביצועים מהירים בהרבה. הריצה המקומית גם תאפשר לכם לשמור את הנתונים הגולמיים.

במה ההדגמה הזאת שונה מהמודל המלא?

ההדגמה מציגה רק תמונת המחשה ויזואלית שנוצרת לצורך התצוגה. המודל המלא מספק מערכי מספרים מדויקים של וקטורי תנועה וערכי עומק. בנוסף, המודל המלא מסוגל לעבד רצפי וידאו בקצב גבוה על חומרה מתאימה.

איך משתמשים

טוענים שתי תמונות, מסמנים ברדיו את סוג המשימה ולוחצים להרצה. אין צורך להתחבר או להירשם. ההדגמה רצה על מעבד בסיסי, cpu-basic, בלי מאיץ גרפי. זה אומר שעיבוד תמונות כבדות ייקח כמה שניות ארוכות בכל הרצה, ויכול להיווצר תור אם עוד אנשים שולחים בקשות במקביל.

הרישיון

הקוד מפורסם תחת רישיון MIT שמאפשר שימוש חופשי לחלוטין, כולל שימוש מסחרי ושינוי קוד. הקבצים שאתם מעלים עוברים דרך השרת של הדפדפן לצורך החישוב, ולכן לא מומלץ להעלות חומרים רגישים או סודיים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗