Voxtral-Mini-3B-2507

מה זה

מדובר בהרחבה של Ministral 3B שמשלבת יכולות אודיו ישירות לתוך מודל השפה. במקום להעביר הקלטה דרך מודל תמלול ייעודי ואז לזרוק את הטקסט ל־LLM נפרד, הוא מעבד את גלי הקול בעצמו ומבין אותם מיד. המודל תומך בשמונה שפות מרכזיות כמו אנגלית, ספרדית, צרפתית, גרמנית והינדי, ומסוגל לזהות לבד באיזו שפה מדובר.

היתרון הגדול שלו הוא מצב עבודה כפול. אפשר להפעיל אותו כמנוע תמלול נקי עם אפס יצירתיות, או כמנוע שיחה והבנה שמסוגל לענות על שאלות לגבי ההקלטה, לסכם אותה, ואפילו להפעיל קריאות לפונקציות וממשקי API ישירות מתוך פקודות קוליות. הוא מתמודד עם הקלטות של עד 30 דקות לתמלול מלא או 40 דקות לצורכי ניתוח והבנה.

מתאים ל

• תמלול הקלטות ארוכות

  מתאים לקבצי אודיו של עד 30 דקות באנגלית או שפות אירופיות עם זיהוי שפה אוטומטי במצב תמלול ייעודי.

• עוזרים קוליים ואוטומציה

  הפעלת פונקציות וקריאות API ישירות מדיבור של משתמש בלי לעבור דרך שלב ביניים של טקסט.

• סיכום ושאלות על פגישות

  עיבוד שיחות של עד 40 דקות לצורך מענה על שאלות וייצור סיכומים ישירות מהשמע.

איפה זה נופל

החיסרון המרכזי לקורא הישראלי הוא השפות. עברית אינה מופיעה ברשימת השפות הנתמכות, ולכן למעט אנגלית ושפות אירופיות או הינדי, המודל פשוט לא רלוונטי לזיהוי דיבור מקומי. מגבלה טכנית נוספת היא היעדר תמיכה בהנחיות מערכת, כך שאי אפשר להגדיר לו אישיות או חוקי התנהגות מראש כמו במודלים אחרים. בנוסף, חשוב לזכור לשנות הגדרות טמפרטורה ידנית, אפס לתמלול ו־0.2 לשיחה, אחרת איכות הפלט נפגעת.

איך מריצים

כדי להריץ אותו מקומית צריך מעבד גרפי עם לפחות 9.5 ג'יגה־בייט של זיכרון עבודה בפורמט bfloat16 או fp16. כרטיס ביתי פשוט עם 12 או 16 ג'יגה יחזיק אותו בקלות. הדרך המומלצת להרצה בסביבת שרת היא vLLM בגרסה 0.10.0 ומעלה יחד עם חבילת mistral-common, אבל אפשר להרים אותו גם ישירות דרך ספריית Transformers בגרסה 4.54.0 ומעלה.

אם אתם צריכים רק תמלול נקודתי של כמה קבצים ביום, אין טעם להחזיק שרת דלוק ולשלם על משאבי ענן. במקרים כאלה עדיף לפנות ל־API חיצוני. לעומת זאת, אם אתם בונים מערכת קולית אינטראקטיבית שדורשת מענה מהיר או עיבוד מקומי של הקלטות, הרצה עצמאית נותנת שליטה מלאה.

pip install -U huggingface_hub
hf download mistralai/Voxtral-Mini-3B-2507

הקבצים

11 קבצים במאגר, 17.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• consolidated.safetensors9.3 GB
• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors4.4 GB
• tekken.json14.9 MB
• model.safetensors.index.json68.1 KB
• README.md16.6 KB
• .gitattributes1.6 KB
• config.json1.4 KB
• params.json731 B
• preprocessor_config.json357 B
• generation_config.json108 B

הרישיון

המודל משוחרר תחת רישיון Apache 2.0. זה אומר שמותר להשתמש בו לכל מטרה, כולל מוצרים מסחריים סגורים, לשנות את הקוד ולהפיץ אותו בחופשיות. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים המקורית והצהרת הרישיון.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗