granite-4.0-1b-speech

מה זה

המודל מחבר מקודד שמע מסוג Conformer עם מודל שפה קטן מסוג granite-4.0-1b-base, ומציע תמלול وترגום דיבור דו-כיווני בשש שפות עיקריות: אנגלית, צרפתית, גרמנית, ספרדית, פורטוגזית ויפנית. בנוסף הוא תומך בתרגום מאנגלית לאיטלקית ולמנדרינית. הייחוד שלו לעומת גרסאות קודמות בסדרה הוא צמצום משמעותי במשאבים יחד עם תמיכה בהזנת רשימת מילות מפתח מראש, תכונה שעוזרת לו לתפוס שמות פרטיים וראשי תיבות שבדרך כלל נבלעים במודלים קטנים.

בבדיקות פומביות בלוח המבחנים של HuggingFace הוא רושם ממוצע שגיאות מילים של 5.52 אחוזים וציון מהירות מרשים של 280.02. המשמעות בפועל היא שהוא מתמלל הקלטות בקצב גבוה בהרבה מזמן אמת, כשהדיוק שלו נשאר גבוה מאוד בהקלטות נקיות כמו ליבריספיץ עם 1.42 אחוזי שגיאה, ויורד באודיו מורכב כמו פודקאסטים של גיגהספיץ לאזור ה־10.14 אחוזים.

מתאים ל

• תמלול פגישות באנגלית

  מאפשר להכניס שמות משתתפים ומונחים טכניים ברשימת מילים כדי למנוע טעויות תמלול נפוצות.

• תרגום שיחות בזמן אמת

  תרגום דיבור ישיר בין אנגלית לשפות אירופיות או יפנית, שמתאים למערכות שירות לקוחות.

• הרצה מקומית על מחשבי מק

  התאמה מובנית ל־mlx-audio מאפשרת לעבד אודיו ישירות על חומרת אפל סיליקון בלי ענן.

איפה זה נופל

הנקודה הקריטית ביותר לקורא המקומי היא היעדר מוחלט של עברית. המודל כלל לא אומן עליה, ולכן הוא חסר תועלת לחלוטין לתמלול הקלטות בשפה שלנו. מעבר לכך, היוצרים מודים שמודלים מוקטנים מועדים יותר להזיות וליצירת טקסט לא מדויק בהשוואה למודלי ענק. במצבים של פרומפט שבור או קלט בעייתי הוא פשוט נופל לתמלול עיוור ומתעלם מההוראות.

איך מריצים

המודל דורש כ־4.3 גיגה-בייט של זיכרון בלבד בגרסת bfloat16 מלאה, מה שאומר שכרטיס מסך ביתי פשוט עם 6 עד 8 גיגה-בייט VRAM יספיק כדי להריץ אותו בלי בעיה. הוא נתמך ישירות בספריית transformers הרגילה, עובד בתשתית vLLM לעיבוד שרתים מהיר, וכולל מימוש ייעודי ב־mlx-audio עבור מחשבי אפל עם מעבדי M, כולל גרסאות מכווצות ל־8 ביט.

אם אתם צריכים תמלול שוטף בארגון מקומי או על מכשירי קצה, שווה לחלוטין להרים אותו לבד כי עלות החומרה אפסית והתפוקה שלו מהירה מאוד. שימוש בשירות חיצוני עדיף רק אם אתם לא רוצים לנהל שרתים בכלל או אם נפח השימוש שלכם הוא כמה הקלטות בודדות בחודש.

from transformers import pipeline

pipe = pipeline("automatic-speech-recognition", model="ibm-granite/granite-4.0-1b-speech")
print(pipe("שלום"))

הקבצים

18 קבצים במאגר, 4.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors2.1 GB
• model-00001-of-00003.safetensors2.1 GB
• model-00003-of-00003.safetensors339.0 MB
• tokenizer.json7.2 MB
• vocab.json1.6 MB
• multilingual_sample.wav1.6 MB
• merges.txt916.6 KB
• model.safetensors.index.json84.4 KB
• tokenizer_config.json17.9 KB
• README.md16.3 KB
• config.json2.3 KB
• .eval_results/open_asr_leaderboard.yaml2.1 KB
• .gitattributes1.8 KB
• special_tokens_map.json579 B
• preprocessor_config.json336 B
• chat_template.jinja193 B
• processor_config.json80 B
• added_tokens.json26 B

הרישיון

הפרויקט מופץ תחת רישיון Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי מלא, שינוי של הקוד והמשקלים והפצה בתוך מוצרים סגורים. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗