GPT
הוספת כלי
W

onnx-community/whisper-large-v3-turbo

קוד פתוח

onnx-communityרישיון לא דווח2024-10-01

  • transformers.js
  • onnx
  • whisper
  • automatic-speech-recognition

גרסת ONNX למודל התמלול המהיר של OpenAI, שמיועדת להרצה ישירה עם transformers.js. שווה לבדוק אותו אם רוצים להריץ תמלול מקומי בסביבות JavaScript בלי שרת פייתון ברקע.

  • 15.3 GBמשקל הקבצים
  • 17,311הורדות בחודש
  • 78לייקים
  • 32שכבות

מה זה

מדובר בהמרה של whisper large v3 turbo למשקלי ONNX, שמטרתה העיקרית היא תאימות לספריית transformers.js. המודל עצמו בנוי על ארכיטקטורת WhisperForConditionalGeneration עם 32 שכבות, ומבצע זיהוי דיבור אוטומטי. ההבדל המרכזי מול הגרסה המקורית של OpenAI הוא לא ביכולות התמלול אלא בפורמט המשקלים, שמאפשר להריץ אותו בסביבות קצה, בדפדפן או ב־Node.js.

המפרסמים מציינים שקיום מאגר נפרד למשקלי ONNX הוא פתרון זמני עד שטכנולוגיות WebML יתפסו יותר תאוצה. אין כאן נתוני ביצועים חדשים, שיפורי דיוק או תוצאות מדידה עצמאיות של איכות התמלול מעבר למה שקיים במודל הבסיס. כל המטרה של המאגר היא לספק את המשקלים המתאימים למי שבונה יישום מבוסס ווב או סביבת ג'אווהסקריפט ורוצה לעקוף את הצורך בסביבת ריצה כבדה של פייתון.

מתאים ל

  • תמלול ביישומי Node.js

    מאפשר להריץ את גרסת הטורבו ישירות מתשתית ג'אווהסקריפט בצד השרת בלי לתחזק שירות פייתון נפרד.

  • פיתוח כלי שולחן עבודה

    מתאים לאפליקציות מקומיות עם נפח אחסון פנוי שמנצלות מנועי הרצה מבוססי ווב לתמלול מקומי ללא רשת.

  • בדיקות פיתוח עם WebML

    מספק משקלי ONNX מוכנים מראש לצורך ניסויים עם transformers.js על מודלים מרובי שכבות.

איפה זה נופל

החיסרון המרכזי כאן הוא הגודל. משקל של 15.3 גיגה בייט הופך את הרעיון של הרצה בדפדפן לכמעט לא מעשי עבור רוב המשתמשים, למרות שהפורמט מיועד לשם. בנוסף, כרטיס המודל ריק מכל מידע על שפות נתמכות, ביצועים בעברית, צריכת זיכרון בפועל או מגבלות דיוק. תצטרכו לבדוק בעצמכם איך הוא מתמודד עם השפה שלכם לפני שאתם מתכננים עליו.

שאלות
נפוצות

האם המודל מתאים לריצה בתוך דפדפן של לקוח?

טכנית כן, אבל מעשית כנראה שלא לרוב המקרים. המשקל הכולל של הקבצים מגיע ל־15.3 גיגה בייט, מה שהופך את ההורדה והטעינה לזיכרון הדפדפן לכבדה ואיטית מדי עבור רוב המשתמשים.

במה הוא שונה מגרסת Whisper Large v3 Turbo הרגילה?

הוא מכיל את אותה הארכיטקטורה עם 32 שכבות, אך המשקלים הומרו לפורמט ONNX כדי להתאים לעבודה ישירה עם ספריית transformers.js.

איך מריצים

כדי להריץ אותו תצטרכו לעבוד עם transformers.js, אבל קחו בחשבון שמדובר במשקל כולל של 15.3 גיגה בייט שמחולק ל־46 קבצים. זה נפח משמעותי מאוד להורדה, בטח אם בונים על ריצה בדפדפן של משתמש קצה, שם הורדה כזו פשוט תחנוק את החיבור ותזלול זיכרון.

אם אתם מריצים מקומית בשרת Node.js עם זיכרון ייעודי זה אפשרי, אבל עבור משתמשי קצה רגילים או מכשירים ניידים עדיף להשתמש ב־API מרוחק במקום לנסות למשוך 15 גיגה בייט למכשיר.

pip install -U huggingface_hub
hf download onnx-community/whisper-large-v3-turbo

הקבצים

46 קבצים במאגר, 15.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

בדף המודל לא דווח רישיון כלל. כשאין רישיון מוגדר במפורש, מבחינה משפטית אין אישור שימוש ברור, לא לשימוש פרטי ובטח לא להפצה מסחרית בתוך מוצר. לפני שמשלבים אותו בפיתוח עסקי, צריך לבדוק את תנאי הרישיון של מודל המקור של OpenAI או לפנות למתחזקים כדי לא להסתכן בהפרת זכויות יוצרים.

הרישיון המלא בעמוד המודל ↗