חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
M

MotionDiffuse

רץ בדפדפן

mingyuanmit2022-10-13

  • gradio

הכלי מייצר תנועות אנושיות מתוך הנחיות טקסטואליות פשוטות. הוא מתאים לחוקרים ואנימטורים שרוצים לראות איך מודל דיפוזיה מתרגם תיאור מילולי לרצף תנועה מוגדר.

  • —הורדות בחודש
  • 69לייקים

מה זה

אתם מקלידים תיאור טקסט של פעולה ומכוונים סליידר שקובע את אורך הרצף, בטווח שנע בין 20 ל־196 פריימים עם ברירת מחדל של 60. מהתיאור הזה הממשק אמור להפיק הנפשה או רצף תנועה תלת ממדי של דמות אנושית לפי ההנחיה שכתבתם.

מאחורי הקלעים רץ MotionTransformer יחד עם תהליך אימון והסקה מסוג DDPMTrainer, כלומר מודל דיפוזיה שמייצר תנועה הדרגתית מרעש אקראי על בסיס הטקסט. הקוד בקובץ ההפעלה כולל הגדרות לדוגמאות מוכנות מראש, ומפנה לעמוד הפרויקט של החוקרים למי שרוצה להעמיק בפרטים הטכניים.

מתאים ל

  • בדיקת תנועה מטקסט

    הזנת תיאור קצר כדי לבחון איך מודל דיפוזיה מתרגם מילים לתנועה.

  • קביעת אורך סצנה

    ניסוי באורכי רצף שונים בין 20 ל־196 פריימים לבדיקת יציבות.

  • למידת קוד המודל

    בחינת החיבור בין מנוע הדיפוזיה לממשק גרדיו לפי קובצי המקור.

איפה זה נופל

הבעיה המיידית היא שהאפליקציה פשוט קורסת ולא פועלת כרגע בשרת. מעבר לכך, היא מוגבלת למספר פריימים מוגדר מראש עד 196 ולא תייצר רצפים ארוכים או מורכבים יותר, ואין שום ערובה שהתנועה שתתקבל תיראה טבעית או יציבה בלי עיוותים בשלד.

שאלות
נפוצות

האם השימוש בעמוד הזה עולה כסף?

לא, הגישה לממשק היא בחינם לגמרי ישירות מהדפדפן. עם זאת, נכון לעכשיו הוא במצב תקלה ולא מגיב לפעולות. אין כאן מנגנון תשלום או צורך באשראי.

האם האפליקציה שומרת את הטקסט שאני מקליד?

הטקסט נשלח לעיבוד בשרת המארח של גרדיו כדי להפעיל את המודל. אין תיעוד על שמירה קבועה של המידע, אבל כל מה שנשלח לסביבה ציבורית אינו מאובטח. לא מומלץ להזין טקסטים רגישים.

כמה זמן לוקח לייצר תנועה?

כרגע האפליקציה כלל אינה עובדת עקב שגיאת מערכת. במצב תקין, מכיוון שהיא מוגדרת על מעבד רגיל בלבד ללא כרטיס מסך, תהליך יצירת תנועה בדיפוזיה צפוי לקחת זמן מורגש.

האם אפשר להריץ את הכלי הזה במחשב שלי?

כן, הקוד פתוח תחת רישיון MIT וזמין לטעינה עצמאית. תצטרכו להוריד את הקבצים ולהתקין את הספריות הנדרשות, ועדיף להריץ אותו עם כרטיס מסך מתאים כדי לקבל ביצועים סבירים.

איך משתמשים

בפועל אתם לא יכולים להריץ כאן כלום כרגע כי הדף מדווח על שגיאת ריצה כללית, RUNTIME_ERROR. גם כשהוא עובד, החומרה שמוקצית לו היא מעבד בסיסי בלבד ללא מאיץ גרפי. חישוב של מודל דיפוזיה על חומרה כזאת ידרוש בדרך כלל המתנה ממושכת לכל יצירה.

הרישיון

הפרויקט מפורסם תחת רישיון MIT, שמאפשר שימוש חופשי, שינוי והפצה גם לצרכים מסחריים. לגבי התוצר והטקסט שאתם מזינים, הרישיון לא מטיל מגבלות מיוחדות אך כדאי לבדוק את תנאי המודל המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗