GPT
M

MiniCPM4-MCP

קוד פתוח

openbmbapache-2.02025-06-05

  • transformers
  • safetensors
  • minicpm
  • feature-extraction
  • text-generation

מודל שפה קומפקטי שמכוון ספציפית להפעלת כלים וסוכני אוטונומיה דרך פרוטוקול MCP. הוא עונה על הצורך בחיבור מערכות מקומיות לכלים חיצוניים בלי להסתמך על שירותי ענן יקרים.

  • 8.2Bפרמטרים
  • 32,768טוקנים בהקשר
  • 15.3 GBמשקל הקבצים
  • 15,893הורדות בחודש

מה זה

מדובר בגרסה ייעודית של סדרת MiniCPM4 שמטרתה לקבל פקודות משתמש ולהפעיל כלי MCP באופן עצמאי. הוא תומך בהפעלת כלי בודד או מספר כלים במקביל לאורך תהליכים מורכבים, ומכיר מראש סביבות כמו סלאק, גיטהאב, מערכת קבצים ושליטה על שולחן העבודה.

בבדיקות הביצועים של היוצרים מול 16 שרתי MCP שונים, הוא הגיע בממוצע לבחירת פונקציה נכונה ב־88.3 אחוז מהמקרים, ולחילוץ פרמטרים נכון ב־76.1 אחוז. התוצאות האלו עוקפות בממוצע בדיקות מקבילות של GPT-4o בכרטיס המודל, אם כי ברמת הערך המדויק שנשלח לפונקציה ההצלחה צונחת לאזור 51.2 אחוז בלבד.

מתאים ל

  • סוכן מקומי לניהול קבצים

    קריאה וכתיבה של קבצי מערכת או מסמכי וורד בעזרת פקודות מבוססות MCP ישירות במחשב המקומי.

  • אוטומציה בסביבות עבודה

    שילוב בפלטפורמות תקשורת כמו סלאק שבהן המודל מציג אחוזי דיוק גבוהים של 100 אחוז בזיהוי הפעולה.

  • הרצת סקריפטים בסביבה מבודדת

    הפעלת כלי ביצוע קוד על פי הוראות טקסטואליות באנגלית או בסינית בלי להוציא מידע מחוץ לשרת.

איפה זה נופל

בדיוק של הפרמטרים הספציפיים המודל מציג נפילות קשות מאוד. בחישובים הוא מזהה את הפונקציה מצוין אבל מייצר ערך נכון רק ב־6.67 אחוז מהזמן, ובשרת גיטהאב הוא מגיע ל־17.1 אחוז בלבד בערכי הקלט. מעבר לזה, הכרטיס מדווח על תמיכה בשפות אנגלית וסינית בלבד, כך שעברית לא נתמכת כאן באופן רשמי.

שאלות
נפוצות

האם אפשר להשתמש במודל הזה בעברית?

המודל אומן והוגדר רשמית עבור אנגלית וסינית בלבד. הוא עשוי לקלוט מילים בסיסיות בעברית, אבל הוא לא מיועד לכך וקריאות הכלים ישתבשו בסבירות גבוהה מאוד.

איך המודל מחזיר את קריאות הכלים בפועל?

הפלט נכתב בפורמט ייעודי עטוף בתגיות טקסט של tool call ובתוכן בלוק קוד פייתון. צריך לבנות או להשתמש במפענח ייעודי כמו זה שמסופק בריפו כדי להמיר את הטקסט לקריאת API אמיתית.

איך מריצים

המשקל הגולמי עומד על 15.3 גיגה בייט בדיוק של bfloat16, כך שתצטרכו כרטיס מסך עם לפחות 16 עד 24 גיגה זיכרון כדי לטעון אותו ולהשאיר מקום לחלון הקשר סביר. ההרצה מבוססת על vLLM עם התאמות לטוקנייזר ולמבנה התגיות המיוחד של קריאות הכלים.

אם אתם מחפשים לשלב אותו באפליקציה פשוטה בלי לנהל תשתית שרתים או סביבת פייתון מקומית לכלים, פנייה ישירה למודל ענן דרך API תחסוך כאב ראש. הרצה עצמית מתאימה בעיקר למי שרוצה שליטה מלאה על התהליך ועל המידע שנשלח לכלים.

from transformers import pipeline

pipe = pipeline("text-generation", model="openbmb/MiniCPM4-MCP")
print(pipe("שלום"))

הרישיון

רישיון אפאצ'י 2.0 מאפשר שימוש מסחרי מלא, שינוי קוד, הפצה ושילוב במוצרים סגורים בלי תשלום תמלוגים. הדרישה העיקרית היא שמירה על הודעת זכויות היוצרים ומסמך הרישיון המקורי בקבצים שתפיצו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗