GPT
הוספת כלי
M

MiniCPM5-1B-Claude-Opus-Fable5-Thinking

קוד פתוח

GnLOLotapache-2.02026-07-03

  • transformers
  • safetensors
  • llama
  • text-generation
  • minicpm

זה מודל שפה קטן של 1.1 מיליארד פרמטרים עם יכולת חשיבה מובנית וחלון ענק. הוא פונה למי שמחפש פתרון קל להרצה מקומית עבור כתיבת קוד ומעקב אחרי הוראות.

  • 1.1Bפרמטרים
  • 131,072טוקנים בהקשר
  • 2.0 GBמשקל הקבצים
  • 695הורדות בחודש

מה זה

מדובר בכיוונון עדין של MiniCPM5-1B על גבי נתוני Fable 5, שנועד לשפר ביצועים בכתיבת קוד ובציות להנחיות. המודל שומר על תבנית השיחה המקורית של מודל הבסיס וכולל תמיכה מובנית בבלוקים של חשיבה ובהפעלת כלים בפורמט XML. חלון ההקשר שלו מגיע עד 131,072 טוקנים, נתון חריג מאוד בגדלים האלה שמאפשר להזין קבצי קוד ארוכים למדי בלי לחתוך אותם מראש.

הוא מבוסס על ארכיטקטורת Llama רגילה עם 24 שכבות, ותומך באופן רשמי באנגלית ובסינית. אין פה מבחני ביצועים כמותיים בכרטיס המודל, כך שקשה לדעת בדיוק כמה הוא עוקף את מודל הבסיס במדדים סטנדרטיים, אבל הדגש המוצהר מושם על יכולת חשיבה צעד אחר צעד והתמודדות טובה יותר עם אילוצים מורכבים במשימות פיתוח.

מתאים ל

  • סיוע בקוד מקומי

    יצירת פונקציות קצרות ובדיקת שגיאות על חומרה מקומית חלשה וללא תלות ברשת.

  • ניתוח טקסט ארוך

    חלון של 128K מאפשר לחפש מידע בקבצים גדולים במשאבי מחשוב מינימליים.

  • סוכן פקודות פשוט

    התמיכה המובנית בקריאת כלים בפורמט XML מתאימה להפעלת תסריטים אוטומטיים.

איפה זה נופל

הגודל שלו הוא המגבלה המרכזית. עם 1.1 מיליארד פרמטרים אי אפשר לקבל יכולות היסק של מודלי קצה, והוא עלול לפספס בהיגיון מורכב או להמציא פתרונות. בעיה נוספת היא מצב החשיבה, שמייצר בלוקים ארוכים של שרשרת מחשבה לפני התשובה הסופית. אם המוצר שלכם צריך להציג פלט נקי למשתמש, תצטרכו לנקות את הבלוקים האלה ידנית בקוד. כמו כן, השפות הרשמיות הן אנגלית וסינית בלבד, כך שעברית כנראה תעבוד רע מאוד.

אותה משפחה

MiniCPM5-1B-Claude-Opus-Fable5 יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-GGUF370,692 MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF349,778 MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking1,373

שאלות
נפוצות

האם המודל תומך בעברית?

הכרטיס מגדיר תמיכה באנגלית ובסינית בלבד. מודלים בגודל 1.1B שלא אומנו על עברית לרוב מייצרים פלט משובש, מקוטע או לא קוהרנטי בשפה זו.

מה עושים עם בלוקי החשיבה שמופיעים בפלט?

אפשר לכבות אותם לגמרי בהגדרות ההרצה על ידי ביטול enable_thinking והורדת הטמפרטורה ל־0.7. אם משאירים אותם פעילים, יש להסיר את החלקים האלה בצד השרת לפני שמציגים את התשובה למשתמש.

איך מריצים

המודל שוקל 2.0 גיגה בייט בלבד, מה שאומר שהוא רץ בנוחות על כרטיס מסך בודד ואפילו צנוע. מי שרוצה להריץ אותו דרך transformers בתוך פייתון צריך להגדיר bfloat16 ו־trust_remote_code=True. קיימת גם גרסת GGUF נפרדת למי שמעדיף סביבות כמו llama.cpp, Ollama או LM Studio ישירות על מעבד או מחשב נייד.

יש כבר גרסת V2 שפורסמה עם תמיכה משופרת בהפעלת כלים, אז שווה לבדוק אותה לפני שבוחרים בגרסה הזו. אם המשימה דורשת ניתוח לוגי עמוק ומורכב, עדיף להשתמש ב־API חיצוני של מודל ענק במקום לצפות לגדולות ממשקל כזה.

from transformers import pipeline

pipe = pipeline("text-generation", model="GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 2.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0, שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית בתוך מוצרים. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, בלי חובת פתיחת קוד משלכם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗