guillaumekln/faster-whisper-medium

מה זה

מדובר בהמרה ישירה של whisper-medium המקורי של OpenAI לפורמט שרץ על גבי CTranslate2, כולל תמיכה ישירה בחבילת faster-whisper. המודל מתמקד בזיהוי דיבור אוטומטי ותמלול שמע לטקסט. המטרה המרכזית של הפורמט הזה היא לקחת את המשקלים של מודל הביניים, שכבר נותנים דיוק סביר ברוב המשימות, ולחלץ מהם מהירות ריצה גבוהה יותר וניצול יעיל יותר של משאבי החומרה.

בניגוד לגרסה הסטנדרטית שנשענת על פייתורץ' כבד, כאן הקבצים עברו המרה מראש עם ct2-transformers-converter בפורמט float16. המשקל הכולל יושב על 1.4 גיגה בייט בלבד, כך שלא צריך לשבור את הראש עם תהליך המרה מקומי לפני שמתחילים לעבוד. הוא תומך בשפות המרכזיות שהוגדרו עבורו, כולל אנגלית, סינית, גרמנית, ספרדית, רוסית, קוריאנית, צרפתית ויפנית, ומוכן לשימוש ישיר בקוד.

מתאים ל

• תמלול שיחות באנגלית

  מתאים לשרתים מקומיים שצריכים לעבד הקלטות קוליות ביעילות גבוהה עם ספריות CTranslate2.

• חילוץ כתוביות לסרטונים

  מייצר מקטעי טקסט עם זמני התחלה וסיום מדויקים עבור שפות מרכזיות כמו ספרדית או גרמנית.

• הטמעה במוצר קצה

  משקל של 1.4 גיגה בייט מאפשר לשלב את יכולות התמלול ישירות בתוך אפליקציות מקומיות ללא תלות ברשת.

איפה זה נופל

הכרטיס מפרט תמיכה בשמונה שפות ספציפיות: אנגלית, סינית, גרמנית, ספרדית, רוסית, קוריאנית, צרפתית ויפנית. עברית אינה מופיעה ברשימת השפות הזו, ולכן אי אפשר להסתמך עליו לתמלול בעברית בלי לבדוק את הביצועים מראש. מעבר לכך, הכרטיס לא מספק נתוני דיוק משלו ומפנה ישירות לכרטיס המקורי של OpenAI, מה שאומר שאין כאן התחייבות לשיפור באיכות התמלול אלא רק ביעילות החישוב.

איך מריצים

טוענים אותו ישירות דרך הספרייה faster-whisper בפייתון בשתי שורות קוד, ומעבירים לו את קובץ השמע לתמלול. המשקלים שמורים במקור בפורמט float16, אבל אפשר לשנות את סוג החישוב בזמן הטעינה דרך פרמטר compute_type של CTranslate2 בהתאם ליכולות החומרה שלכם.

ההורדה דורשת רק 1.4 גיגה בייט של מקום בדיסק, כך שהוא מתאים לכרטיסי מסך צנועים יחסית או לשרתים עם משאבים מוגבלים. אם יש לכם קבצים בודדים פעם בחודש, אין סיבה להחזיק שרת ייעודי ובמצב כזה עדיף לשלם לפי דקה ל־API חיצוני.

pip install -U huggingface_hub
hf download guillaumekln/faster-whisper-medium

הקבצים

6 קבצים במאגר, 1.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.bin1.5 GB
• tokenizer.json2.2 MB
• vocabulary.txt459.9 KB
• config.json2.3 KB
• README.md2.0 KB
• .gitattributes1.5 KB

הרישיון

המודל מופץ תחת רישיון MIT. זהו רישיון קצר ומתירני שמאפשר שימוש מסחרי, שינוי של הקוד והפצה חופשית בתוך מוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗