mistralai/Ministral-3-3B-Instruct-2512-GGUF

מה זה

מדובר במודל שמורכב מרכיב שפה של 3.4 מיליארד פרמטרים ורכיב ראייה נפרד של 0.4 מיליארד פרמטרים. השילוב הזה נותן לו לנתח תמונות לצד עיבוד טקסט רגיל, בלי לדרוש שרת עמוס כרטיסי מסך יקרים. בפורמט הנוכחי הוא מיועד ישירות להרצה מקומית, תוך התמקדות בשיחות, עבודה לפי הנחיות ופליטת מבני מידע מסודרים.

הוא בולט ביכולת להחזיק חלון הקשר של עד 256k טוקנים, נתון חריג מאוד ביחס לגודל הפיזי שלו. מעבר לטקסט וראייה, המפתחים כיוונו אותו לעבודה כסוכן עצמאי, עם יכולת מובנית לקריאה לפונקציות וייצור פלט בפורמט JSON. מבחינת שפות הוא כולל שפות אירופיות מרכזיות, סינית, יפנית, קוריאנית וערבית, אם כי עברית אינה מופיעה ברשימת השפות הרשמית שלו.

מתאים ל

• ניתוח תמונות במכשיר קצה

  מאפשר עיבוד תמונות ישירות על החומרה המקומית בלי להוציא מדיה לשרת חיצוני.

• הפעלת פונקציות וסוכנים

  מתאים לחילוץ נתונים מדויק במבנה JSON והפעלת כלים מוגדרים מראש בטמפרטורה נמוכה.

• עיבוד מסמכים ארוכים

  מנצל חלון הקשר של 256k לקריאת טקסטים ממושכים בחומרה מוגבלת משאבים.

איפה זה נופל

חובה להקפיד על ההנחיות של המפתחים, שממליצים להשאיר את הטמפרטורה מתחת ל־0.1 בסביבת עבודה אמיתית, מה שמעיד על נטייה להזיות בחופש יצירתי. בנוסף, אסור להעמיס עליו כמות גדולה של כלים במקביל כי הוא עלול לאבד כיוון. בתחום הראייה הוא רגיש ליחס התמונה, ומחייב חיתוך לקראת יחס של 1:1 כדי למנוע ירידה באיכות הפענוח, מה שדורש עיבוד מקדים לתמונות רחבות או צרות.

אותה משפחה

Ministral-3-3B-Instruct-2512 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

בגרסת שמונה ביט המודל נכנס בפחות מ־8GB של זיכרון כרטיס מסך, וכשמשתמשים בגרסאות מכווצות יותר בפורמט GGUF דרישות הזיכרון יורדות עוד יותר. קבצי המאגר שוקלים 14.9 גיגה בייט במצטבר, כך שכרטיס מסך ביתי מודרני או מעבד סביר במחשב נייד יספיקו להרצה שוטפת.

אם אתם צריכים רק שאילתות בודדות פעם בכמה שעות, אין טעם לתחזק מכונה פעילה ועדיף להשתמש בשרת מרוחק. הרצה עצמית משתלמת ברגע שרוצים פרטיות מוחלטת של המידע, עבודה באופליין או שליטה מלאה בעלויות העיבוד.

ollama run hf.co/mistralai/Ministral-3-3B-Instruct-2512-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

7 קבצים במאגר, 14.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Ministral-3-3B-Instruct-2512-BF16.gguf6.9 GB
• Ministral-3-3B-Instruct-2512-Q8_0.gguf3.7 GB
• Ministral-3-3B-Instruct-2512-Q5_K_M.gguf2.5 GB
• Ministral-3-3B-Instruct-2512-Q4_K_M.gguf2.1 GB
• Ministral-3-3B-Instruct-2512-BF16-mmproj.gguf841.5 MB
• README.md3.2 KB
• .gitattributes1.9 KB

הרישיון

הרישיון הוא Apache 2.0 מלא. אפשר להשתמש במודל לצרכים מסחריים, לשנות אותו, להטמיע בתוך מוצרים סגורים ולהפיץ הלאה בלי תמלוגים. התנאי היחיד הוא שמירה על זכויות יוצרים, מתן קרדיט מקורי והימנעות מהפרת זכויות קניין רוחני של צדדים שלישיים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗