MiniCPM-V-4_5-gguf

קוד פתוח

openbmbרישיון לא דווח2025-08-24

transformers
gguf
minicpm-v
vision
ocr

מודל מולטימודלי של שמונה מיליארד פרמטרים שרץ מקומית דרך קובצי GGUF. הוא מיועד למי שרוצה ניתוח תמונות, מסמכים ווידאו בלי לשלם לפי טוקן לענקיות הענן.

126 GBמשקל הקבצים
31,225הורדות בחודש
75לייקים

מה זה

המודל מחבר את Qwen3-8B יחד עם מודל הראייה SigLIP2-400M לסך כולל של שמונה מיליארד פרמטרים. המטרה המרכזית שלו היא עיבוד ויזואלי מהיר, כולל תמיכה בתמונות בודדות, רצפי תמונות וסרטוני וידאו, תוך שימוש בארכיטקטורת LLaVA-UHD שמטפלת ברזולוציות של עד 1.8 מיליון פיקסלים ביעילות גבוהה.

לפי כרטיס המודל, הוא השיג ציון ממוצע של 77.2 במבחן OpenCompass, וגובר במבחני OCRBench וניתוח קובצי PDF במבחן OmniDocBench על מודלים מסחריים כמו GPT-4o וגרסאות Gemini. המשמעות בפועל היא יכולת קריאת טקסט מחלצת מתוך סריקות וניתוח וידאו בקצב של עד 10 פריימים בשנייה בלי לפוצץ את חלון ההקשר, בזכות דחיסה של שישה פריימים לשישים וארבעה טוקנים.

הוא כולל גם מעבר מבוקר בין חשיבה מהירה למשימות יומיומיות לבין חשיבה עמוקה שמתאימה לפתרון בעיות מורכבות, ומשלב שיטות RLAIF-V לצמצום הזיות במבחן MMHal-Bench ביותר משלושים שפות.

מתאים ל

חילוץ נתונים מסריקות ומסמכים
מציג תוצאות גבוהות ב־OCRBench וב־OmniDocBench, ומטפל ברזולוציות של עד 1344 על 1344 פיקסלים.
ניתוח מקומי של סרטוני וידאו
דוחס שישה פריימים לשישים וארבעה טוקנים ומאפשר תחקור וידאו עד 10 פריימים בשנייה בלי לחרוג מהזיכרון.
מערכות מולטימדיה ללא חיבור רשת
רץ מקומית על מחשבים אישיים וטלפונים דרך קובצי GGUF וספריית llama.cpp ללא תלות בשרת חיצוני.

איפה זה נופל

המפתחים מצהירים בפירוש שהמודל מתבסס על לימוד סטטיסטי של כמויות מידע גדולות ואינו מבין, מביע דעה אישית או מפעיל שיקול דעת ערכי. הם גם מסירים כל אחריות מבעיות אבטחת מידע, תקלות בשיקול דעת או נזקים שנובעים משימוש שגוי. למרות ההישגים הגבוהים במבחני הזיות, חובה לבדוק היטב את הפלט של זיהוי הטקסט ומסמכים מורכבים לפני שמסתמכים עליו במערכת אוטומטית.

אותה משפחה

MiniCPM-V-4-5 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

MiniCPM-V-4_5264,825

שאלות
נפוצות

האם צריך להוריד את כל 126 הגיגה בייט של המאגר?

ממש לא. המאגר מכיל גרסאות קוונטיזציה שונות של אותו המודל באריזת GGUF. בוחרים קובץ בודד לפי כמות הזיכרון שיש לכם במעבד הגרפי או ב־RAM ומורידים רק אותו.

האם מותר להטמיע את המודל הזה במוצר מסחרי?

השימוש המסחרי חינמי, אך הוא לא אוטומטי. המפתחים דורשים מילוי טופס שאלון ייעודי לפני תחילת הפעילות העסקית, בעוד השימוש לקוד המקור עצמו חופשי תחת רישיון Apache-2.0.

איך מריצים

המאגר כולל 22 קבצים במשקל כולל של 126 גיגה בייט, שמחזיקים מגוון רחב של קוונטיזציות בפורמט GGUF. אתם לא מורידים את כל התיקייה, אלא רק את הקובץ הספציפי שמתאים ליכולות הזיכרון של המחשב שלכם, ומריצים אותו ישירות בעזרת llama.cpp או דרך ollama.

בזכות גודל הבסיס של שמונה מיליארד פרמטרים, אפשר להריץ גרסאות מכווצות על מחשב נייד מודרני, מעבדי אפל סיליקון או אפילו מכשירי iOS. אם אתם צריכים לפרוס שירות לייצור בהיקף גדול ובמהירות גבוהה, שווה לבחון הרצה תחת SGLang או vLLM על גבי מאיץ גרפי ייעודי.

ollama run hf.co/openbmb/MiniCPM-V-4_5-gguf:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הרישיון

הקוד פתוח תחת רישיון Apache-2.0, אך משקולות המודל כפופות לתנאי רישיון נפרדים של MiniCPM. השימוש החופשי המיידי מוגדר למחקר אקדמי בלבד. כדי להשתמש במודל לצרכים מסחריים אתם נדרשים למלא טופס רישום מקוון שהיוצרים דורשים כתנאי לקבלת האישור החינמי.

הרישיון המלא בעמוד המודל ↗