granite-speech-5.0-470m-turboctc

מה זה

מדובר במודל זיהוי דיבור קומפקטי שמבוסס על ארכיטקטורת Conformer עם ראש CTC, שנועד לתמלל שמע ישירות לטקסט בפעולה אחת ללא פענוח רציפי אטי. הוא אומן על כ־60,000 שעות שמע באנגלית ממאגרים ציבוריים כמו MLS ו־Common Voice, לצד תוספות סינתטיות של מספרים, כתובות אתרים וסכומי כסף כדי לשפר תמלול של ישויות מורכבות.

במקום מודלים שמייצרים מילה אחרי מילה ומכבידים על המעבד, הגישה כאן ממוקדת בתפוקה גבוהה וזמן תגובה קצר. במדידות על כרטיסי H200 ו־L4 נבדקו ביצועי התמלול מול רעשי רקע והדהוד, במטרה לתת מענה מהיר במיוחד לשימושים שבהם שרת כבד אינו אופציה סבירה.

מתאים ל

• תמלול פקודות קוליות בקצה

  הוא קל מספיק כדי לרוץ על מחשבים ניידים ומכשירי קצה בזמן אמת בלי תלות בשרת.

• עיבוד שיחות שירות באנגלית

  הוא אומן על שיחות מרובות דוברים ומונחים פיננסיים כמו סכומי כסף ומספרים.

• תמלול מהיר ללא חיבור רשת

  משקלו פחות מג'יגה-בייט, מה שמאפשר להטמיע אותו בתוכנות עצמאיות שפועלות אופליין.

איפה זה נופל

החיסרון המרכזי והברור ביותר עבור מפתח ישראלי הוא היעדר תמיכה בעברית. הוא אומן אך ורק על אנגלית ולא יזהה אף שפה אחרת. בנוסף, המודל נבדק בעיקר על מקטעי דיבור קצרים, כך שבתמלול הקלטות ארוכות ורציפות ללא חלוקה מוקדמת למקטעים הביצועים עלולים להיפגע.

איך מריצים

המודל שוקל 903 מגה-בייט ורץ ישירות דרך ספריית transformers מגרסה 5.16.0 ומעלה, או באמצעות ספריית mlx-audio למחשבי מק עם מעבדי Apple Silicon. בזכות הגודל הצנוע, אין צורך בשרת ייעודי חזק וכרטיס מסך פשוט או מעבד של מחשב נייד יספיקו כדי לקבל זמני תגובה טובים.

אם אתם צריכים לתמלל שפות שאינן אנגלית, אין מה לנסות להרים אותו באופן מקומי ועדיף לשלוח בקשות ל־API חיצוני שמחזיק מודל רב-לשוני גדול. הרצה עצמית כאן משתלמת רק כשחייבים פרטיות מלאה, עבודה ללא רשת או עיבוד כמויות שמע גדולות באנגלית בלי עלויות ענן.

from transformers import pipeline

pipe = pipeline("automatic-speech-recognition", model="ibm-granite/granite-speech-5.0-470m-turboctc")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 903 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors946.2 MB
• tokenizer.json1.1 MB
• granite_encoder.py14.5 KB
• processing_ctc_conformer.py12.7 KB
• model.sig10.9 KB
• README.md7.4 KB
• modeling_ctc_conformer.py4.7 KB
• configuration_ctc_conformer.py3.9 KB
• .gitattributes1.5 KB
• config.json926 B
• processor_config.json430 B
• preprocessor_config.json327 B
• tokenizer_config.json222 B
• generation_config.json158 B

הרישיון

הוא מופץ תחת רישיון Apache 2.0, שמאפשר שימוש מסחרי חופשי, שינוי של הקוד והפצה פנימית או ללקוחות. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים וציון הרישיון המקורי בתוצר שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗