חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
W

speechbox/whisper-speaker-diarization

רץ בדפדפן

speechboxרישיון לא דווח2023-01-25

  • gradio

הכלי מציע תמלול קבצי שמע עם זיהוי דוברים שונים, עבור מי שמחפש הפרדה ברורה בין קולות בשיחה. הוא מתאים ליוצרים וחוקרים שרוצים לבדוק שילוב מודלים ברשת.

  • —הורדות בחודש
  • 41לייקים

מה זה

אתם מעלים קובץ קול ישירות מהמחשב או מזינים קישור לסרטון מיוטיוב, ומסמנים אם להוסיף חותמות זמן לפלט. בתמורה מקבלים תמלול של השיחה שמחולק לפי הדוברים השונים שזוהו בהקלטה.

מאחורי הקלעים הקוד מחבר שתי טכנולוגיות שונות: תמלול הדיבור נשען על המודל whisper-small של OpenAI, יחד עם שימוש ב־whisper-tiny, בזמן שהפרדת הדוברים מתבצעת באמצעות pyannote/speaker-diarization. הממשק מכיל לשוניות נפרדות להעלאת שמע ולהדבקת קישורי יוטיוב, כולל דוגמאות מוכנות מראש להרצה על סרטונים קיימים.

מתאים ל

  • תמלול הקלטות מרובות דוברים

    פיצול טקסט לפי אנשים שונים מתוך קובץ שמע מקומי שנשמר במחשב.

  • חילוץ טקסט מיוטיוב

    קבלת טקסט מחולק לפי דוברים ישירות מתוך כתובת של סרטון קיים.

  • בדיקת שילוב ספריות

    בחינת החיבור המעשי בקוד בין מודל התמלול לספריית הזיהוי pyannote.

איפה זה נופל

הבעיה המיידית היא שהאפליקציה פשוט לא עובדת ברשת כרגע בגלל שגיאת ריצה. מעבר לזה, המודל שנבחר לתמלול הוא whisper-small ולא הגרסאות הגדולות, מה שאומר שדיוק השפה, בטח בעברית, יהיה נמוך משמעותית מהמקסימום שהטכנולוגיה יודעת לתת. אם תנסו להריץ משהו בלי להעלות קובץ, הקוד יקפיץ שגיאה ישירה.

שאלות
נפוצות

האם הכלי עובד בחינם?

הגישה להדגמה בדפדפן היא ללא תשלום, ואין צורך במנוי כדי לפתוח אותה. עם זאת, נכון לעכשיו היא נמצאת במצב של שגיאת ריצה ולכן אי אפשר להריץ בה שום דבר בפועל.

מה קורה עם הקבצים שאני מעלה?

כל שמע או קישור נשלחים לעיבוד על גבי תשתית הענן של האתר שבו יושב הדף. כיוון שלא פורסם רישיון מסודר ולא ברורה מדיניות השמירה, לא מומלץ להעלות לשם חומרים רגישים או שיחות פרטיות.

האם אפשר להריץ את זה באופן מקומי במחשב?

כן, הקוד הציבורי מראה שימוש בספריות פתוחות כמו speechbox, gradio ו־pyannote שניתן להוריד עצמאית. כדי לעשות את זה תצטרכו להתקין אותן בסביבת פייתון מקומית ולהשתמש במעבד גרפי משלכם.

במה זה שונה משימוש ישיר במודל של Whisper?

המודל המקורי של Whisper רק מתמלל את המילים שנאמרות ברצף, ללא הפרדה בין האנשים בחדר. הדף הזה משלב בנוסף את ספריית pyannote כדי לזהות מי אמר כל משפט ולהדביק לו חותמת זמן מתאימה.

איך משתמשים

בממשק בוחרים בלשונית הרצויה, טוענים קובץ או מדביקים כתובת יוטיוב, ולוחצים על הפעולה. המערכת מוגדרת לרוץ על מעבד גרפי מסוג t4-small שאמור להחזיר תוצאות סבירות, אבל כרגע האפליקציה נמצאת במצב של שגיאת זמן ריצה ולא תעבוד בדפדפן בלי תיקון של הקוד.

הרישיון

הרישיון של המרחב לא דווח כלל במאגר. המשמעות היא שאין הגדרה ברורה לגבי שימוש מסחרי בקוד, וכל קובץ או קישור שאתם שולחים מועבר דרך השרתים הציבוריים של השירות.

הרישיון המלא ב־Hugging Face ↗