moonshine-base-ONNX

מה זה

מדובר במודל לתמלול דיבור שמבוסס על ארכיטקטורת MoonshineForConditionalGeneration והומר לפורמט ONNX. הוא כולל 8 שכבות ומגיע בדיוק מלא של float32, מה שמעמיד אותו על גודל כולל של 1.9 גיגה בייט.

היתרון המרכזי כאן הוא החיבור הישיר ל־Transformers.js. אתם לא צריכים שרת פייתון נפרד או סביבת ריצה מורכבת כדי לעבד קול, אלא טוענים את ה־pipeline ישירות בקוד שלכם. עם זאת, אין בכרטיס המודל שום נתוני השוואה או מדדי דיוק כמו WER, כך שקשה לדעת מראש איך הוא מתמודד מול מודלים אחרים באותו סדר גודל בלי לבדוק אותו על קבצי האודיו שלכם.

מתאים ל

• תמלול אודיו ב־Node.js

  מאפשר לעבד קבצי קול ישירות בצד השרת ב־JavaScript, בלי להקים תשתית פייתון נפרדת.

• עיבוד קול מקומי ללא רשת

  מתאים למערכות שחייבות לשמור על פרטיות מלאה ולהריץ את התמלול מקומית על המחשב.

• אוטומציות של קטעי שמע קצרים

  עובד מעולה על הודעות קוליות ומשפטים בודדים שמתאימים למגבלת ה־512 טוקנים.

איפה זה נופל

הקשר הקלט מוגבל ל־512 טוקנים בלבד, מה שאומר שלא תוכלו לזרוק עליו הקלטות ארוכות בלי לחתוך ולנהל את המקטעים בעצמכם. בנוסף, חבילת הקבצים מפוצלת ל־40 קבצים נפרדים בגלל מבנה ה־ONNX, והמשקל שלה ידרוש משאבים כבדים אם תנסו לדחוף אותה לצד לקוח. אין פה שום פירוט על תמיכה בשפות אחרות חוץ מאנגלית, כך שאין שום הבטחה שהוא יבין עברית או מבטאים כבדים.

איך מריצים

ההרצה פשוטה מאוד ודורשת התקנה של חבילת transformers מ־NPM וקריאה לפונקציית pipeline עם מזהה המודל. הקוד מקבל קישור לקובץ אודיו ומחזיר את הטקסט המתומלל באופן ישיר.

הקבצים שוקלים כמעט 2 גיגה בייט, כך שצריך לוודא שיש מספיק זיכרון עבודה פנוי בשרת או במכשיר הקצה שמריץ אותו. אם אתם מתכננים להריץ את זה בדפדפן של משתמשי קצה על חיבור סלולרי, זמני ההורדה יהיו כבדים ועדיף לפנות ל־API ייעודי שיעשה את התמלול בענן.

pip install -U huggingface_hub
hf download onnx-community/moonshine-base-ONNX

הקבצים

40 קבצים במאגר, 1.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/decoder_model_merged.onnx166.2 MB
• onnx/decoder_model.onnx165.8 MB
• onnx/decoder_model_merged_fp16.onnx160.7 MB
• onnx/decoder_with_past_model.onnx154.6 MB
• onnx/decoder_model_merged_q4f16.onnx85.1 MB
• onnx/decoder_model_fp16.onnx83.1 MB
• onnx/encoder_model.onnx80.8 MB
• onnx/decoder_with_past_model_fp16.onnx77.5 MB
• onnx/decoder_model_merged_q4.onnx72.8 MB
• onnx/decoder_model_q4.onnx72.3 MB
• onnx/decoder_model_merged_bnb4.onnx71.1 MB
• onnx/decoder_model_bnb4.onnx70.6 MB
• onnx/decoder_with_past_model_q4.onnx70.5 MB
• onnx/decoder_with_past_model_bnb4.onnx69.0 MB
• onnx/decoder_model_q4f16.onnx43.3 MB
• onnx/decoder_model_merged_quantized.onnx42.5 MB
• onnx/decoder_model_merged_uint8.onnx42.4 MB
• onnx/decoder_model_merged_int8.onnx42.4 MB
• onnx/decoder_model_uint8.onnx41.9 MB
• onnx/decoder_model_int8.onnx41.9 MB
• onnx/decoder_model_quantized.onnx41.9 MB
• onnx/decoder_with_past_model_q4f16.onnx41.6 MB
• onnx/encoder_model_fp16.onnx40.5 MB
• onnx/decoder_with_past_model_uint8.onnx39.1 MB
• onnx/decoder_with_past_model_int8.onnx39.1 MB
• onnx/decoder_with_past_model_quantized.onnx39.1 MB
• onnx/encoder_model_q4.onnx24.8 MB
• onnx/encoder_model_bnb4.onnx23.7 MB
• onnx/encoder_model_quantized.onnx20.5 MB
• onnx/encoder_model_uint8.onnx20.5 MB
• onnx/encoder_model_int8.onnx20.5 MB
• onnx/encoder_model_q4f16.onnx16.6 MB
• tokenizer.json3.8 MB
• tokenizer_config.json135.7 KB
• README.md3.0 KB
• .gitattributes1.5 KB
• config.json922 B
• generation_config.json147 B
• preprocessor_config.json128 B
• special_tokens_map.json3 B

הרישיון

המודל משוחרר ברישיון MIT. זה נותן לכם חופש מלא להשתמש בו, לשלב אותו במוצרים מסחריים, לשנות אותו ולהפיץ אותו כחלק מהמערכת שלכם, בתנאי שאתם שומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗