faster-whisper-small
קוד פתוחSystranmit2023-11-23
גרסה מוסבת של מודל התמלול הקטן של אופנאיי, שעברה התאמה למנוע סיטרנסלייט שתיים כדי לתמלל אודיו מהר בהרבה על מעבדים וכרטיסים גרפיים.
- 464 MBמשקל הקבצים
- 2,348,237הורדות בחודש
- 47לייקים
מה זה
מדובר בהמרה ישירה של המודל המקורי לתבנית שמיועדת למנוע ההרצה סיטרנסלייט שתיים, בעיקר דרך ספריית פאסטר וויספר. הוא שוקל ארבע מאות שישים וארבעה מגה בייט בסך הכול ומיועד לתמלול דיבור אוטומטי. ההבדל בינו לבין המודל הרגיל נמצא בביצועים ובניצול הזיכרון בזמן ריצה, בזכות מנוע אופטימיזציה שמאיץ מודלים של עיבוד שפה ושמע.
המודל מגיע עם משקלים שמורים בדיוק של פלואוט שש עשרה, אבל המנוע מאפשר לטעון אותו גם ברמות דיוק וכימות שונות לפי סוג החומרה שלכם. הוא מכוון לשפות מרכזיות כמו אנגלית, ספרדית, צרפתית, גרמנית, רוסית, קוריאנית, יפנית וסינית, בלי הבטחות או בדיקות מיוחדות לשפות אחרות מעבר למה שהמקור סיפק.
מתאים ל
- תמלול שיחות באנגלית על שרת
משקל קל של 464 מגה בייט מאפשר ריצה מהירה בלי להעמיס על מעבדי השרת.
- עיבוד אודיו על חומרת קצה
גודל קומפקטי שמתאים למחשבים ניידים ומכשירים חלשים יחסית.
- חילוץ טקסט ברקע מאודיו
מנוע סיטרנסלייט שתיים מתמלל כמויות גדולות של קבצים בזמן קצר.
איפה זה נופל
גודל הסמול מתפשר מראש על רמת הדיוק לעומת הגרסאות הגדולות של וויספר. ברשימת השפות המוגדרת מופיעות בעיקר שפות מובילות, ועברית לא נכללת בהן, מה שאומר שהיא לא נבדקה בהמרה הזו וסביר שתיתן שגיאות תכופות ואיכות נמוכה. בנוסף, חומרי המודל לא מציגים שום תוצאות ביצועים רשמיות או מדדי שגיאת מילים, אז תצטרכו למדוד בעצמכם על ההקלטות שלכם לפני שילוב שלו במערכת אמיתית.
שאלות
נפוצות
האם המודל יתמלל עברית ברמה טובה?
לא כדאי לבנות על זה. המודל מיועד רשמית לשמונה שפות בולטות כמו אנגלית וספרדית, ועברית לא מופיעה ביניהן. אם אתם זקוקים לעברית, גרסאות גדולות יותר של וויספר או מודלים ייעודיים יתנו תוצאות טובות בהרבה.
האם חייבים מעבד גרפי כדי להפעיל אותו?
ממש לא. הוא שוקל פחות מחצי ג'יגה ובנוי לספריית סיטרנסלייט שתיים, שמבצעת אופטימיזציה מעולה גם על מעבדים סטנדרטיים. אפשר להריץ אותו בלי שום חומרה מיוחדת, אם כי כרטיס גרפי עדיין יקצר את זמני ההמתנה.
איך מריצים
כדי להריץ אותו מייבאים את פאסטר וויספר בפייתון, טוענים את המודל ישירות, ומעבירים לו קובץ אודיו לחלוקה למקטעים וטקסט. בזכות המשקל הקל אפשר להריץ אותו בקלות גם על מעבד רגיל בלי כרטיס מסך ייעודי, או לחלופין על כרטיס גרפי זול עם מעט זיכרון עבודה.
אם אתם צריכים תמלול מזדמן לכמה קבצים בחודש, שירותי רשת מוכנים יחסכו תחזוקה של שרת. אם יש לכם נפח עבודה רציף או חשש מפרטיות, המודל הזה זול ופשוט מאוד להרצה עצמית.
pip install -U huggingface_hub hf download Systran/faster-whisper-small
הקבצים
6 קבצים במאגר, 464 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
המודל מופץ תחת רישיון אם איי טי, שמאפשר שימוש חופשי לגמרי כולל מטרות מסחריות, שינויים והפצה בקוד סגור. התנאי היחיד הוא שמירת הודעת זכויות היוצרים של היוצרים המקוריים בתוך התוכנה שלכם.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש