Supra2-100M-Instruct

מה זה

SupraLabs בנו כאן מודל של 101 מיליון פרמטרים בלבד, שזה גודל שכמעט נעלם מהנוף של מודלי שפה מודרניים. הוא אומן מאפס על טקסט רשת באנגלית ועבר כוונון להוראות על כשלוש מאות מיליון טוקנים, שרובם מגיעים ממאגר smol-smoltalk ומעט מתמטיקה בסיסית. הוא משתמש במבנה של Qwen3 עם אוצר מילים ייעודי של 32,768 טוקנים ותבנית ChatML.

המודל מיועד לשיחה בסיסית מאוד, בדיקות ארכיטקטורה ומחקר של התנהגות מודלים קטנים. אין כאן טבלת ציונים רשמית, אבל הדוגמאות שהיוצרים עצמם צירפו חושפות את המצב האמיתי. הוא ממציא עובדות היסטוריות ברמה מביכה, למשל שהמתקפה על פרל הארבור קרתה ב־2001, ומערבב מושגים בצורה אקראית כששואלים אותו על ניתוח תנועה ברשת או אפילו על פאסט פוד.

מתאים ל

• ניסויי אימון מקומיים

  הגודל הזעיר מאפשר לבצע כוונון מלא במהירות ובזול על כרטיס מסך ביתי בודד.

• בדיקת תהליכי פיתוח

  משקל של 580 מגה בייט מתאים להרצה מהירה של בדיקות אינטגרציה ותשתיות שיחה.

• מחקר על מודלים קטנים

  בדיקת התנהגות שפה ויכולות שיחה בסיסיות בהיקף של 100 מיליון פרמטרים.

איפה זה נופל

המודל חלש מאוד בשמירה על עובדות, בהיגיון ובפתרון בעיות, והוא סובל מהזיות כבדות וסטיות מהנושא כבר אחרי כמה משפטים. למרות שההגדרה מאפשרת חלון של 2,048 טוקנים, האימון עצמו בוצע על 1,024 טוקנים בלבד, ולכן הרחבה מעבר לזה לא נבדקה וצפויה להידרדר. בנוסף, האימון נעשה ללא הפרדת מסמכים באריזת הטקסט, מה שפוגע בעקביות, והוא תומך אך ורק באנגלית ולא אומן על עברית כלל.

איך מריצים

במשקל של 580 מגה בייט בלבד, המודל הזה רץ כמעט על כל דבר. לא צריך שרת ולא צריך ענן יקר, כרטיס מסך ביתי ישן או אפילו מעבד רגיל יספיקו כדי להריץ אותו דרך ספריית transformers. את הכוונון המלא שלו המפתחים עשו על כרטיס יחיד מסוג RTX 5060 Ti עם 16 גיגה זיכרון.

אם אתם שוקלים להשתמש בו ליישום אמיתי, עדיף לפנות לכל ממשק API קיים של מודל גדול. אין שום היגיון הנדסי להריץ מודל של 100 מיליון פרמטרים עבור משתמשי קצה כשאפילו המודלים הקטנים והזולים בענן יתנו תוצאות טובות פי כמה. ההרצה המקומית שלו מוצדקת רק לצורכי מחקר, לימוד או ניסויי אימון מקומיים.

ollama run hf.co/SupraLabs/Supra2-100M-Instruct:F16

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

9 קבצים במאגר, 580 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors402.8 MB
• Supra2-100M-SFT-F16.gguf202.6 MB
• tokenizer.json2.3 MB
• README.md22.4 KB
• .gitattributes1.6 KB
• config.json1.0 KB
• tokenizer_config.json791 B
• generation_config.json215 B
• chat_template.jinja155 B

הרישיון

הקוד והמשקלים שוחררו תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של הקוד והפצה מחדש, בלי דרישה לפתוח את הקוד שלכם, כל עוד שומרים על הודעת זכויות היוצרים המקורית והצהרת הוויתור.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗