MiniCPM5-1B-SFT
קוד פתוחopenbmbapache-2.02026-05-21
מודל קומפקטי של 1.1 מיליארד פרמטרים עם חלון של 131 אלף טוקנים. הוא מיועד למי שמחפש בסיס מכוונן היטב לאימון נוסף או לריצה מקומית קלילה.
- 1.1Bפרמטרים
- 131,072טוקנים בהקשר
- 2.0 GBמשקל הקבצים
- 15,830הורדות בחודש
מה זה
מדובר בגרסת ה־SFT בלבד מתוך סדרת MiniCPM5, כלומר המודל עבר כוונון לפי הוראות בלבד, לפני שלבי הלמידה מחיזוקים והזיכוך שנמצאים בגרסה הסופית. המודל שומר על ארכיטקטורת Llama רגילה לחלוטין עם 24 שכבות, מה שאומר שהוא עובד מיד בכל תשתית הרצה מוכרת בלי התאמות קוד מוזרות.
המפתחים בנו אותו סביב 400 מיליארד טוקנים של מידע מכוונן, חצי מזה מוקדש לתהליכי חשיבה עמוקה. לפי המדידות של החברה מול מודלים מתחרים עד גודל 1.2B, הוא מוביל בעיקר בהפעלת כלים, כתיבת קוד והסקה לוגית. עם זאת, בגרסה הזו עדיין אין את השיפורים של שלב ה־RL, שקיצצו תשובות ארוכות מדי והעלו את הציונים במשימות מתמטיקה.
מתאים ל
- אימון מותאם אישית
נקודת פתיחה נקייה לכוונון עדין בדומיין צר, למי שרוצה לדלג על בסיס גולמי אך לבצע RL בעצמו.
- סוכן מקומי להרצת כלים
הפעלת פונקציות ושאילתות בקוד מקומי דרך מחשב אישי, ללא צורך בחיבור לרשת או חומרה יקרה.
- חילוץ מידע מטקסט ארוך
סריקה של מסמכים גדולים במיוחד באנגלית או סינית בזכות תמיכה מובנית ב־131 אלף טוקנים.
איפה זה נופל
זהו צ'קפוינט ביניים ללא שלבי RL ו־OPD. לפי נתוני היוצרים, גרסת ה־SFT סובלת באופן מובהק מנטייה למרוח תשובות עד למגבלת הטוקנים המקסימלית, ומשיגה כ־16 נקודות פחות בממוצע במתמטיקה ובקוד ביחס לגרסה המלאה. בנוסף, המודל אומן רק באנגלית ובסינית, כך שאינו מתאים לעבודה בעברית. בשל גודלו הזעיר, טעויות עובדתיות והזיות נפוצות בו בהשוואה למודלים גדולים.
אותה משפחה
MiniCPM5 יצא ב־5 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
למה לקחת את גרסת ה־SFT ולא את הדגם הרגיל?
הגרסה הזו מתאימה בעיקר למפתחים שרוצים לאמן מודל משלהם ולא רוצים שהמשקולות יהיו מושפעות מהעדפות ה־RL המובנות של היוצרים. לשימוש רגיל כעוזר או כמנוע שיחה, הגרסה הרגילה עדיפה בהרבה.
האם הוא מבין עברית?
לא, המודל אומן באופן מפורש על אנגלית וסינית בלבד. הוא לא יידע להתמודד עם פניות בעברית ברמה שמישה.
איך מריצים
בזכות משקל של כשני ג'יגה בייט ב־bfloat16, אפשר להריץ אותו כמעט על כל כרטיס מסך ביתי, כולל מעבדי אפל ישנים או אפילו ישירות על המעבד המרכזי. הוא נתמך ישירות דרך transformers, vLLM ו־SGLang לפריסה כשרת תואם OpenAI.
אם אתם רוצים מודל מוכן לחלוטין לשיחה שמחזיר תשובות מהודקות יותר, עדיף להוריד את הגרסה הסופית של MiniCPM5-1B שעברה RL במקום את נקודת הביקורת הזו. אם אתם מתכננים לבצע fine-tuning משלכם בעזרת כלים כמו LoRA או TRL, נקודת ה־SFT הזו היא בדיוק המקום להתחיל ממנו.
from transformers import pipeline
pipe = pipeline("text-generation", model="openbmb/MiniCPM5-1B-SFT")
print(pipe("שלום"))הקבצים
12 קבצים במאגר, 2.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הפרויקט והמשקולות מופצים תחת רישיון Apache 2.0 מלא. אפשר להשתמש בו חופשי לצרכים מסחריים, לשנות אותו, לאמן אותו מחדש ולשלב אותו במוצרים פנימיים או חיצוניים בלי תשלום תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים