אנבידיה פותחת את מודל התמלול שלה ומאיימת על שירותי הענן

חשבון הענן החודשי על שירותי תמלול וזיהוי דוברים נוטה לתפוח בלי אזהרה מוקדמת. כל מי שמחזיק מוצר עם שיחות מוקלטות מכיר את הרגע שבו תשלום של אלפי דולרים ל־APIs קנייניים מתחיל להרגיש כמו מס קבוע. אתמול, ב־28 באוקטובר 2026, NVIDIA שחררה את Nemotron 3.5 Transcribe, מודל תמלול פתוח שמתיימר להחליף את השירותים הללו בהרצה מקומית. הוא מאחד תמלול ב־40 שפות, תרגום ל־31 שפות, זיהוי דוברים ומענה לשאלות על גבי קובצי שמע של עד שעה שלמה.

פחות פרמטרים, יותר שליטה

החידוש האמיתי כאן הוא היכולת לשלוט במבנה הפלט ישירות דרך פרומפט בשפה טבעית, בלי לגעת באימון של המודל. במקום לבצע Fine-tuning ממושך כדי להוסיף מונחים מקצועיים או לקבוע סגנון עימוד, מזינים הנחיה מילולית פשוטה. המערכת מזהה זיהוי דוברים של עד 8 משתתפים שונים ומפיקה תמלול מדויק לפי ההוראות. זה מתאפשר תודות לשילוב של רכיב Sortformer לזיהוי דוברים כבר בשלב הפקת הייצוגים האקוסטיים, כך שתגיות הדובר מיוצרות ישירות בזמן הפקת הטקסט.

הארכיטקטורה של המודל משלבת מודל שפה מסוג Mamba והיבריד שנאי בתצורת תערובת מומחים (MoE). בעוד שהגודל הכולל מגיע לכ־30 מיליארד פרמטרים, בפועל מופעלים רק כ־4 מיליארד פרמטרים פעילים לכל טוקן. המשמעות עבור ארכיטקטי תוכנה ברורה: אפשר לפרוס אותו על שרת GPU בודד בלי צורך באשכולות מרובי כרטיסים מנופחים. זה שיקול כלכלי מהותי מול תעריפי הדקות של שירותים סגורים.

לפי הדוקומנטציה, חברת Agora כבר בנתה הדגמה שבה זיהוי חותמות זמן ברמת המילה מאפשר להציג תמלול מסונכרן לצד הקלטה של שיעור חי. בדוגמה רפואית שפרסמה החברה, הנחיה הכוללת שמות תרופות כמו מטפורמין וערכי מעבדה כמו HbA1c מנעה שגיאות כתיב מביכות בלי לגעת במשקולות. מה שבאמת מעניין כאן הוא שאין צורך להקים צינורות עיבוד מורכבים רק כדי לקבל טקסט נקי.

זה לא פתרון קסם לכל תרחיש.

מוביל במבחנים, מוגבל ברישיון

המספרים שמציגה NVIDIA מרשימים על הנייר. לפי דירוג Artificial Analysis, המודל מתברג בראש עם מדד שגיאות של 2.8% בלבד. במבחן AA-AgentTalk הוא עומד על 1.8% שיעור שגיאות מילים (WER). בלוח המובילים של Hugging Face הוא מוביל בקרב המודלים הפתוחים באנגלית עם 5.33% שגיאה, ומציג 18.26% שגיאות שיוך דוברים (DER) במבחן של David AI, לפני דגמים מתמחים אחרים.

Transcribe is first among open-weight models on the Hugging Face Open ASR Leaderboard for English and sits on Artificial Analysis's accuracy-active-parameter frontier.דוקומנטציית ההכרזה הרשמית

במבחן VoiceArena באנגלית עם שיחות מרובות דוברים ודיבור חופף, המודל הגיע ל־32.4% שגיאות מילים מסוג cpWER והשמיט רק 8.32% מהמילים, לעומת חציון של כ־31% במערכות שנבדקו. אבל לצד המודל קיים מערך הנתונים Granary v2, וכאן ממתין כאב ראש משפטי. NVIDIA שחררה מניפסט נתונים של 463,062 שעות אודיו שנאספו מ־16 מאגרי מקור שונים ב־48 שפות, אך המניפסט אינו מכיל את קובצי השמע עצמם. ארגונים שיבקשו לאמן מחדש את המודל יידרשו להוריד את קובצי המקור ישירות מכל מאגר בנפרד, תחת תנאי הרישיונות המקוריים של אותם מקורות.

במחלקה המשפטית שלכם לא יאהבו את המשימה הזאת. לדעתי, המורכבות הזו הופכת אימון מחדש של הדאטהסט ללא כדאי עבור רוב החברות.

העברית עדיין צריכה עבודה

במבחן המקומי, המצב שונה ממה שמבטיחים בגרפיקה באנגלית. עברית נכללת ב־40 השפות הנתמכות, אך לפי הדוקומנטציה היא מוגדרת ברמת Supported בלבד ולא ברמת Production המלאה. תמלול ותרגום עובדים ברמה סבירה, אבל אין תמיכה מוכנה מראש בזיהוי דוברים (Diarization) בעברית. מי שקיווה להעלות הקלטה של ישיבת צוות ולקבל הפרדה מדויקת בין הדוברים בשפת הקודש, יגלה שהתוצאה דורשת פתרון משלים.

בנוסף, יכולת המענה לשאלות מתוך קובץ השמע (Audio Q&A) אומנה באנגלית בלבד. אם תשאלו בעברית על החלטות שהתקבלו בפגישה, המודל פשוט יתקשה להשיב. צינור הנתונים של Granary v2 כולל אמנם שלושה סגנונות תמלול שונים לכל קטע, אך היכולת להפיק תמלול מדויק עם סימני פיסוק ויישור מספרים תלויה בכך שהשפה אומנה בהיקף נרחב. לא הייתי ממהר לבנות על המודל הזה כמערכת תמלול ראשית בעברית ללא בדיקות מקיפות.

עם זאת, עבור חברות ביטחוניות, מוסדות פיננסיים או ארגונים ישראליים שמחויבים לרגולציית פרטיות הדוקה, האפשרות להריץ תמלול שמע עצמאי על שרתים מקומיים בתוך גבולות המדינה היא יתרון תפעולי מובהק. שמירה על נתוני לקוחות בתוך הרשת הארגונית מצדיקה לפעמים פשרות מסוימות באיכות התמלול.

מתי לעבור ומתי להמתין

יש תחום אחד שבו המודל הזה אינו רלוונטי כלל: שיחות חיות. כפי שנכתב בדוקומנטציה, Nemotron 3.5 Transcribe תוכנן עבור קבצים מוקלטים מראש ואינו תומך בהזרמה (streaming) בזמן אמת. אם המוצר שלכם מבוסס על תמלול תוך כדי דיבור עם השהיה אפסית, תיאלצו להמשיך להשתמש במודלים קלים ייעודיים או בשירותי ענן קנייניים.

בשרתי ייצור, NVIDIA מדווחת על עיבוד של 100 שעות שמע בפחות מ־3 דקות באמצעות כרטיס שרת RTX PRO 6000 יחיד תחת קוונטיזציית NVFP4. מפתחים יכולים לבדוק את המשקולות כבר עכשיו בסביבת vLLM דרך דף המודל ב־Hugging Face, בעוד גרסאות NeMo-Speech.cpp למחשבי קצה כמו Jetson AGX Thor או מחשבי RTX Spark יגיעו בהמשך. תהליך ההתאמה בעזרת כלי NeMo Speech הראה שיפור של 45.8% במדד שגיאות המילים במקרה בוחן רפואי.

זה שווה רק אם יש לכם נפח עצום של קבצים מוקלטים באנגלית שיושבים ומחכים לפענוח. אם הליבה שלכם היא שיחות חיות בעברית, הישארו בינתיים בענן.