חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
W

Wav2lip-ZeroGPU

רץ בדפדפן

pragnakalpרישיון לא דווח2024-05-06

  • gradio

הכלי מנפיש תמונת פנים לפי קובץ שמע ויוצר סרטון עם תנועת שפתיים תואמת. הוא מתאים ליוצרים שרוצים לבדוק התאמת דיבוב לתמונה בלי להתקין סביבת פיתוח.

  • —הורדות בחודש
  • 71לייקים

מה זה

אתם מעלים תמונת סטילס אחת של פנים לצד קובץ שמע, והיישום מחזיר סרטון וידאו שבו הפה בתמונה זז בהתאם לדיבור. הממשק נשען על קוד פייתון שמפעיל את מודל Wav2Lip באמצעות פקודות מערכת, לצד ספריות עיבוד כמו ffmpeg, pydub, Pillow ו־soundfile לטיפול במדיה לפני יצירת התוצאה.

בעמוד עצמו מופיעה דוגמה מובנית שכוללת תמונה בשם spark.png, קטע שמע של קובץ mp3 וסרטון תוצאה מוכן בשם final_output.mp4. הדוגמה הזו מציגה בדיוק את מבנה הפלט שאמור להתקבל אחרי העיבוד, כך שאפשר לראות את איכות סנכרון השפתיים עוד לפני שמעלים קבצים עצמאיים.

מתאים ל

  • הנפשת תמונת סטילס

    יצירת סרטון קצר שבו דמות מתוך תמונה מדברת בהתאם להקלטה קיימת.

  • בדיקת סנכרון דיבוב

    בחינה מהירה של התאמת קובץ שמע לתנועות שפתיים לפני שמשקיעים בהפקה מלאה.

  • המחשת רעיון לתוכן

    בניית סקיצה ויזואלית פשוטה לרשתות חברתיות מתוך תמונה והקלטת קול.

איפה זה נופל

ההדגמה מציגה דוגמה מוכנה מראש, שלא מעידה בהכרח על מהירות הריצה בפועל עם קבצים כבדים. היישום מוגבל לתמונת סטילס ושמע בלבד ואינו כולל עריכת וידאו מתקדמת או שליטה בתנועות ראש והבעות פנים מעבר לאזור הפה. בנוסף, חומרת הבסיס עלולה להוביל לזמני המתנה ארוכים.

שאלות
נפוצות

האם השימוש עולה כסף?

לא, הגישה בדפדפן חופשית ואינה דורשת תשלום. הממשק זמין לשימוש ישיר ללא צורך בהזנת פרטי אשראי.

האם אפשר להריץ את זה על המחשב?

הקוד משתמש בספריות פייתון סטנדרטיות ובמודל Wav2Lip, כך שניתן להוריד אותו ולהריץ מקומית. עם זאת, תצטרכו להגדיר בעצמכם סביבת עבודה עם ffmpeg וכל התלויות הנדרשות.

מה קורה לקבצים שמעלים לממשק?

התמונות והשמע נשלחים לשרת לצורך עיבוד הסרטון. מכיוון שמדובר בהדגמה ציבורית ברשת, עדיף לא להעלות חומרים פרטיים או רגישים.

במה הדף שונה מהרצת המודל המקורי?

הדף עוטף את המודל בממשק גרפי פשוט מבוסס gradio ומטפל בהמרת הקבצים ברקע. אתם חוסכים את הצורך לכתוב פקודות טרמינל, אך מוגבלים לחומרת השרת השיתופית.

איך משתמשים

גוררים תמונה לשדה הקלט, מוסיפים קובץ קול ולוחצים על Generate. המערכת מוגדרת על חומרת cpu-basic בסיסית ומשתמשת במודול spaces כדי לגשת למשאבי עיבוד לפי דרישה. אין צורך בהרשמה או בתשלום כדי להפעיל את הכפתור בדפדפן, אבל העיבוד עלול לקחת זמן בהתאם לעומס על השרת ולאורך קובץ השמע.

הרישיון

הרישיון לא דווח במאגר. במצב כזה אין הרשאה מפורשת לשימוש מסחרי, ומוטב להניח שהקוד מיועד להתנסות ולבדיקה בלבד. הקבצים שאתם מעלים מעובדים בשרתי הפלטפורמה.

הרישיון המלא ב־Hugging Face ↗