osmosis-mcp-4b

מה זה

מדובר במודל של 4.4 מיליארד פרמטרים שנבנה מעל Qwen3 ואומן באמצעות למידת חיזוק כדי להתמודד עם שרשור כלים בתקן MCP. הדגש כאן הוא לא על כתיבה יצירתית אלא על סוכנים שצריכים להפעיל כמה כלים ברצף, כמו בדיקת מזג אוויר ורק אז דירוג תוצאות, כדי לענות על בקשה אחת.

המפתחים השתמשו בשיטת Dr. GRPO ובנתונים סינתטיים מרובי שלבים. המטרה שלהם הייתה לשבור את הנטייה הרגילה של מודלים קטנים לנחש עובדות מתוך הזיכרון, ולגרום לו להעדיף קריאה אקטיבית לשרת הכלים בכל פעם שחסר לו מידע.

מתאים ל

• סוכן מקומי לשרתי MCP

  חיבור ישיר לשרתי כלים שדורשים קריאות מרובות לפי תקן MCP.

• אוטומציה פנימית של משימות

  ביצוע שאילתות מורכבות שמצריכות שליפת מידע מכמה מקורות ברצף.

• בדיקת תרחישי Function Calling

  פיתוח ובדיקת שרתי כלים מקומיים בלי לשלם על API חיצוני יקר.

איפה זה נופל

הכרטיס לא מציג מדדי ביצועים מספריים או השוואות בנצ'מרק מסודרות מול מודלים אחרים. לא ברור איך הוא מתמודד עם עברית, והאימון שלו נשען כולו על נתונים סינתטיים ושרתי בדיקה מדומים. במקרים שבהם שרת ה־MCP מחזיר שגיאה לא צפויה או תשובה מורכבת במיוחד, המודל עלול להיתקע בלולאות ולא להגיע לפתרון.

איך מריצים

המשקלים מגיעים בפורמט bfloat16 על פני 31 קבצים ששוקלים יחד 55.9 ג'יגה בייט. להרצה מקומית מלאה תצטרכו כרטיס מסך מודרני עם מספיק זיכרון כדי להחזיק את המודל ולפתוח הקשר רחב, במיוחד אם מנצלים את מלוא 40,960 הטוקנים שלו.

אם אין לכם חומרה ייעודית בשרת, להוריד 56 ג'יגה בייט בשביל מודל של 4B זה מהלך כבד. במקרה כזה עדיף לחכות לגרסאות מכווצות או לפנות למודלים סגורים דרך API.

ollama run hf.co/osmosis-ai/osmosis-mcp-4b:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

31 קבצים במאגר, 55.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• osmosis-mcp-4B-BF16.gguf8.8 GB
• osmosis-mcp-4B-F16.gguf8.8 GB
• model-00001-of-00002.safetensors5.0 GB
• osmosis-mcp-4b.Q8_0.gguf4.7 GB
• model-00002-of-00002.safetensors3.8 GB
• osmosis-mcp-4b.Q6_K.gguf3.6 GB
• osmosis-mcp-4b.Q5_K_M.gguf3.2 GB
• osmosis-mcp-4b.Q5_K_S.gguf3.1 GB
• osmosis-mcp-4b.Q4_K_M.gguf2.7 GB
• osmosis-mcp-4B-Q4_K_S.gguf2.6 GB
• osmosis-mcp-4b.Q4_K_S.gguf2.6 GB
• osmosis-mcp-4b.IQ4_XS.gguf2.5 GB
• osmosis-mcp-4b.Q3_K_L.gguf2.4 GB
• osmosis-mcp-4b.Q3_K_M.gguf2.2 GB
• osmosis-mcp-4b.Q3_K_S.gguf2.1 GB
• osmosis-mcp-4b.Q2_K.gguf1.8 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json32.9 KB
• tokenizer_config.json10.3 KB
• pt.jinja4.7 KB
• README_QUANTIZATION.md2.7 KB
• README.md1.7 KB
• quantize_models.sh1.7 KB
• .gitattributes1.6 KB
• config.json727 B
• added_tokens.json707 B
• special_tokens_map.json613 B
• generation_config.json214 B
• .gitignore9 B

הרישיון

רישיון apache-2.0 מאפשר שימוש חופשי לחלוטין, כולל שימוש מסחרי, שינוי הקוד והפצה פנימית או בענן. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקוד שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗