חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
O

OpenAI-TTS-Voice-Conversion

רץ בדפדפן

kevinwang676mit2023-11-08

  • gradio

הכלי מייצר דיבור מטקסט וממיר אותו לגוון קול אחר באמצעות הקלטת ייחוס. הוא מיועד למי שרוצה לבדוק שילוב של מודלי דיבור עם המרת קול מהירה.

  • —הורדות בחודש
  • 40לייקים

מה זה

מזינים טקסט באורך של עד 300 תווים ומקבלים קובץ שמע. אפשר להשתמש במסלול של OpenAI עם מודלי tts-1 או tts-1-hd ושישה קולות מובנים, או במסלול חלופי מבוסס Edge TTS עם בחירת שפה. הטקסט הופך לדיבור, ואותו שומעים בנגן הראשון.

השלב השני לוקח את השמע שנוצר ומעביר אותו המרת קול בעזרת KNN-VC. מעלים דגימת קול חיצונית שתשמש כקול היעד, והמערכת מייצרת אודיו סופי שנשמע כמו הדובר החדש. הממשק כולל דוגמאות טקסט בסינית ומכוון לתמיכה באנגלית ובסינית.

מתאים ל

  • הפקת שמע קצר בקול מותאם

    יצירת קטעי דיבור של עד 300 תווים והמרת הגוון שלהם לקול של דובר מסוים לפי הקלטה קצרה.

  • בדיקת מודלי דיבור של OpenAI

    השוואה מהירה בין tts-1 לגרסת tts-1-hd עם ששת הקולות הרשמיים תוך שימוש במפתח שלכם.

  • המרת קול ללא עלות OpenAI

    שימוש בנתיב של Edge TTS כדי להפיק דיבור בחינם ולהעביר אותו המרת גוון עם KNN-VC.

איפה זה נופל

יש כאן מגבלה קשיחה של 300 תווים בכל הפקה, כך שאי אפשר להקריא פסקאות ארוכות. חוץ מזה, הממשק מוצג ברובו בסינית ומציג כרגע הודעת שגיאה בזמן ריצה, כך שאי אפשר להשתמש בו ישירות בעמוד. כמו כן, השימוש בגרסת OpenAI דורש מכם לשלם על ה־API שלכם, והמרת הקול תלויה באיכות הדגימה שאתם מעלים.

שאלות
נפוצות

האם השימוש בכלי בחינם?

הקוד עצמו חופשי, אבל מסלול OpenAI דורש שתזינו מפתח API אישי ותשלמו על צריכת הטוקנים. מסלול Edge TTS לא דורש מפתח, אך כרגע היישום עצמו לא פעיל עקב שגיאת ריצה.

מה קורה עם קובצי השמע והמפתח שאני מעלה?

המפתח וההקלטות נשלחים לשרת שבו רץ היישום כדי לייצר את האודיו. קובצי השמע נשמרים זמנית על השרת לצורך עיבוד ב־KNN-VC, וקריאות ה־TTS עוברות ישירות לשרתי OpenAI או מיקרוסופט.

האם אפשר להריץ את זה על המחשב?

כן. הקוד פתוח תחת רישיון MIT, ואפשר להוריד את הקבצים, להתקין את הספריות כמו PyTorch ו־KNN-VC, ולהריץ מקומית עם מפתח OpenAI שלכם.

במה זה שונה משימוש רגיל ב־OpenAI TTS?

השירות של OpenAI רק מקריא טקסט בקולות המוכנים שלו. הכלי הזה מוסיף שלב שני של KNN-VC שלוקח את התוצאה ומנסה להלביש עליה גוון קול של אדם אחר מתוך קובץ שאתם מעלים.

איך משתמשים

בוחרים לשונית, מקלידים טקסט ולוחצים על הכפתור להפקת הדיבור. אם בוחרים בנתיב של OpenAI, חובה להזין מפתח API פרטי משלכם. לאחר שנוצר קובץ הקול הראשוני, מעלים קובץ שמע של הדובר שרוצים לחקות ולוחצים על כפתור המרת הקול.

בפועל, היישום נמצא כרגע במצב של שגיאת ריצה על מעבד בסיסי, כך שהוא לא עובד ישירות בדפדפן בלי תיקון של הקוד או פריסה עצמאית.

הרישיון

הקוד מפורסם תחת רישיון MIT, שמאפשר להעתיק, לשנות ולהריץ אותו באופן חופשי. הרישיון מכסה את הקוד עצמו, אבל התוכן שנוצר דרך שירות OpenAI כפוף לתנאי השימוש ולמדיניות של החברה, והמפתח מציין שהכלי מיועד למחקר, למידה ובידור אישי בלבד.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗