MiniCPM-o-4_5-gguf

קוד פתוח

openbmbapache-2.02026-02-02

transformers
gguf
minicpm-o
minicpm-v
multimodal

מודל מולטימודלי של 9B שמסוגל לשמוע, לראות ולדבר בשידור חי ובמקביל. הוא מיועד למי שרוצה להריץ עוזר קולי וחזותי מלא מקומית על המחשב בלי תלות בענן.

74.5 GBמשקל הקבצים
40,611הורדות בחודש
162לייקים

מה זה

הארכיטקטורה מחברת מקצה לקצה בין SigLip2 לראייה, Whisper-medium לקלט שמע, CosyVoice2 להפקת דיבור ובסיס שפה מסוג Qwen3-8B. החידוש המרכזי כאן הוא תקשורת דו כיוונית מלאה בזמן אמת. הוא מעבד וידאו בקצב של עד עשר תמונות בשנייה ושמע רציף, ומייצר קול וטקסט בלי לחכות לסיום הקלט, כולל מנגנון שבודק בתדירות של הרץ אחד אם יש צורך לפתוח בשיחה מיוזמתו.

במדד OpenCompass להבנת תמונה גרסת ההוראות מקבלת 77.6 נקודות, תוצאה שעוקפת מודלים קנייניים כבדים כמו GPT-4o ומתקרבת לביצועים של Gemini 2.5 Flash. בניתוח מסמכים באנגלית על OmniDocBench הוא משיג יתרון עריכה מול כלים כמו DeepSeek-OCR 2, ומאפשר שיבוט קול קצר דרך פרומפט שמע ייעודי לצד תמיכה ביותר משלושים שפות.

מתאים ל

עוזר קולי מקומי מבוסס וידאו
הוא קולט שמע ומצלמה ברצף ומגיב בדיבור בלי לחכות לסיום המשפט שלכם.
חילוץ מידע ממסמכים וטפסים
המודל מוביל בבדיקות OmniDocBench לפענוח אנגלית ומפרק טבלאות ונוסחאות בדיוק גבוה.
שיבוט קול לממשקים אינטראקטיביים
אפשר לקבוע את אופי וגוון הקול ישירות בזמן הריצה באמצעות קטע שמע קצר כפרומפט.

איפה זה נופל

הדיבור בזמן אמת מוגבל לאנגלית ולסינית בלבד, כך שאין מה לבנות עליו לשיחה קולית שוטפת בעברית. במבחני הבנת תמונה מורכבים כמו MMMU גרסת ההוראות מגיעה לציון של 67.6 נקודות, נמוך משמעותית מביצועי Gemini 2.5 Flash שעומדים על 76.3. מעבר לכך, מנגנון היוזמה העצמית דוגם את הסביבה פעם בשנייה, מה שדורש בדיקה קפדנית כדי לוודא שהוא לא מתפרץ לשיחה ברגעים לא מתאימים.

אותה משפחה

MiniCPM-o-4-5 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

MiniCPM-o-4_5753,030

שאלות
נפוצות

האם המודל תומך בשיחה קולית בעברית?

לא. היכולת הקולית הדו כיוונית מוגדרת רשמית לאנגלית ולסינית בלבד. המודל אמנם תומך ביותר משלושים שפות בעיבוד טקסט, אך ממשק הדיבור לא מתאים לעברית.

האם צריך להוריד את כל 74.5 הגיגה בייט כדי להשתמש בו?

ממש לא. המאגר כולל 27 קבצים המייצגים 16 רמות כימות שונות בפורמט GGUF. אתם צריכים להוריד רק את הקובץ הספציפי שמתאים ליכולות החומרה שלכם, כמו גרסת int4 שדורשת משאבים צנועים בהרבה.

איך מריצים

המשקל הכולל של כלל קובצי ה־GGUF במאגר עומד על 74.5 גיגה בייט ומכיל 16 רמות כימות שונות, כולל גרסאות int4. המשמעות היא שלא מורידים את כל המאגר אלא בוחרים קובץ כימות יחיד שמתאים לגודל הזיכרון שלכם. להרצה מקומית על מעבד או זיכרון אחוד אפשר להשתמש ב־llama.cpp וב־Ollama, בעוד שפריסה על כרטיסי מסך תעבוד מהר יותר דרך vLLM או SGLang.

גרסאות מכומתות של מודל 9B יכולות לרוץ בקלות על מחשבי Mac עם זיכרון משותף סביר או כרטיס Nvidia בעל 12 עד 16 גיגה זיכרון. אם המטרה היא להריץ את הזרמת הווידאו המלאה בעשרה פריימים לשנייה יחד עם עיבוד שמע רציף, תזדקקו לכרטיס מסך חזק כדי למנוע השהיות בקול, ואם אין לכם חומרה ייעודית כזו עדיף להשתמש בפתרון מנוהל.

ollama run hf.co/openbmb/MiniCPM-o-4_5-gguf:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

27 קבצים במאגר, 74.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי מלא, שינוי של הקוד והפצה פנימית או מסחרית בתוך מוצרים. התנאי העיקרי הוא שמירה על הצהרת זכויות היוצרים והרישיון המקורי בקוד או בתוכנה שאתם מחלקים.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗