חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
D

DiffRhythm2 — הדגמה

קוד פתוח

ASLP-labapache-2.02025-10-31

  • gradio

הדגמה בדפדפן שמייצרת קטעי מוזיקה לפי מילים ותיאור סגנוני. היא מיועדת ליוצרים ומפתחים שרוצים לבדוק את יכולות המודל ישירות מהרשת.

  • 1.1Bפרמטרים
  • 4.7 GBמשקל הקבצים
  • —הורדות בחודש
  • 48לייקים

מה זה

אתם מזינים מילות שיר בפורמט מתוזמן של קובץ lrc, ובנוסף בוחרים איך לכוון את הסגנון המוזיקלי. אפשר להקליד הנחיית טקסט רגילה או להעלות קובץ שמע כדוגמה, ובתמורה מקבלים קובץ שמע מוגמר להאזנה ולהורדה.

מאחורי הקלעים רץ שילוב של מודל DiffRhythm2 יחד עם OpenMuQ MuQ-MuLan-large, שמנתח את ההנחיות המוזיקליות ומסנכרן את הצליל. בממשק יש דוגמאות מובנות של מילים, תיאורי טקסט וקטעי שמע, כך שלא חייבים להכין קבצים מראש כדי לבדוק איך זה נשמע.

מתאים ל

  • הפקת מוזיקה מטקסט

    יצירת שיר שלם מתוך תיאור סגנון ומילים מתוזמנות מראש ישירות מקובץ lrc.

  • בדיקת סגנונות משמע

    העלאת קטע סאונד כהנחיה כדי לייצר שיר חדש עם גוון צליל דומה.

  • ניסוי פרמטרים טכניים

    בדיקת השפעת פותרי ODE שונים ומספר צעדים על איכות השמע שנוצר.

איפה זה נופל

חייבים להזין מילים בפורמט lrc שמכיל תגיות זמן, מה שמסבך את העבודה אם יש לכם רק טקסט רגיל בלי תזמונים. אין כאן עריכה של ערוצים נפרדים, והתוצאה מגיעה כקובץ סופי שלם בלי אפשרות לפרק שירה וכלים. שינוי שיטות ה־ODE המתקדמות דורש הבנה טכנית, ואם תבחרו הגדרות כבדות זמן העיבוד עלול להתארך משמעותית.

שאלות
נפוצות

האם השימוש בהדגמה עולה כסף?

לא, הגישה בדפדפן היא בחינם לגמרי. היא מנצלת חומרת zero-a10g שמוקצית אוטומטית לפי דרישה. אם יש עומס של משתמשים, ייתכן שתצטרכו להמתין בתור.

מה קורה עם קובצי השמע והמילים שאני מעלה?

הקבצים נשלחים לשרת שבו רץ ממשק ה־Gradio לצורך עיבוד בלבד. הקוד של האפליקציה לא שומר אותם במאגר קבוע חיצוני. עם זאת, התעבורה מנוהלת לפי מדיניות הפרטיות של Hugging Face.

כמה זמן לוקח לייצר שיר שלם?

הזמן משתנה לפי מספר הצעדים ושיטת ה־ODE שתבחרו בהגדרות המתקדמות. שימוש ב־euler עם הגדרות ברירת מחדל יהיה מהיר יחסית על ה־A10G. בחירה בשיטות מורכבות יותר כמו rk4 תאריך את זמן העיבוד בכמה עשרות שניות.

האם אפשר להריץ את זה על המחשב שלי?

כן, הקוד והמודלים פתוחים תחת רישיון apache-2.0 וזמינים להורדה. תצטרכו להתקין את ספריית diffrhythm2 ואת התלויות שלה בסביבת פייתון מקומית. בנוסף, חובה שיהיה לכם כרטיס מסך מתאים עם מספיק זיכרון כדי להריץ את שני המודלים במקביל.

איך מריצים

לוחצים על כפתור Generate אחרי הזנת המילים וההנחיה. ברירת המחדל מוציאה קובץ mp3, אבל בהגדרות המתקדמות אפשר לבחור גם wav או ogg, לשנות את מספר הצעדים, את חוזק ה־cfg ואת שיטת ה־ODE Solver כמו euler או rk4. המערכת רצה על מעבד גרפי מסוג zero-a10g שמוקצה לפי דרישה דרך spaces, כך שזמן ההמתנה תלוי בעומס ובזמינות החומרה באותו רגע.

pip install -U huggingface_hub
hf download ASLP-lab/DiffRhythm2

הקבצים

7 קבצים במאגר, 4.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי, שינוי והפצה כולל שימוש מסחרי בקוד. לגבי קובצי השמע שאתם מעלים או התוצאות שנוצרות, הדבר כפוף לתנאי השימוש הרגילים של Hugging Face spaces.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗