Qwen2.5-Math-7B

מה זה

מדובר במודל שפה שנבנה כמעט בלעדית סביב פתרון בעיות מתמטיקה באנגלית ובסינית. בניגוד למודלים כלליים במשקל הזה שמנסים לעשות הכול מהכול, כאן כל הארכיטקטורה והמשקלים עברו כוונון כדי להתמודד עם שרשראות חשיבה וחישובים מורכבים. הוא נשען על הרחבה של סדרת המקור עם יכולת להפעיל כלים חישוביים חיצוניים לצד פירוק בעיות שלב אחר שלב.

הנקודה הקריטית היא שמדובר בגרסת בסיס. היא לא עברה התאמה לשיחה מול משתמש אלא נועדה להשלמת טקסט, הפקת דוגמאות בודדות או אימון המשך. גרסת ההוראות המקבילה באותו הגודל הגיעה לציון של 85.3 במבחן MATH כששילבו בה כלים, מה שמציג את הפוטנציאל הגלום בארכיטקטורה הזו כשבונים מעליה נכון.

מתאים ל

• בסיס לאימון מודל מתמטי

  נקודת התחלה מצוינת למי שרוצה לאמן מודל פנימי על דאטה מתמטי ייעודי משלו.

• השלמת פתרונות באנגלית

  הרצת פרומפטים עם דוגמאות לפתרון בעיות אלגברה צעד אחר צעד.

• אינטגרציה עם כלי חישוב

  פיתוח מערכות שמשלבות חשיבה מתמטית יחד עם הפעלת מנועי חישוב חיצוניים.

איפה זה נופל

היוצרים מזהירים במפורש לא להשתמש במודל למשימות אחרות שאינן מתמטיקה. הוא תומך באנגלית ובסינית בלבד, כך שאין מה לנסות להריץ עליו שאלות בעברית. חלון ההקשר עומד על 4,096 טוקנים בלבד, שזה גבול צר יחסית שלא יחזיק מסמכים ארוכים. מעבר לזה, כמודל בסיס הוא לא יודע לשוחח ויפלוט המשכים במקום תשובות ישירות.

אותה משפחה

Qwen2.5-Math יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקלים תופסים קצת יותר מארבעה עשר גיגה בייט בדיוק המקורי, כך שצריך כרטיס מסך עם לפחות שישה עשר או עשרים וארבעה גיגה זיכרון כדי לטעון אותו בנוחות. הספרייה של טרנספורמרס דורשת גרסה 4.37.0 ומעלה כדי שהקוד ירוץ בכלל.

אם אתם לא מתכננים לאמן אותו בעצמכם או לבנות מעליו סקריפטים עם הנחיות דוגמה, אין היגיון להרים שרת בשבילו. עדיף בהרבה לקחת ישר את גרסת ההוראות שמגיבה כמו שצריך לפניות.

from transformers import pipeline

pipe = pipeline("text-generation", model="Qwen/Qwen2.5-Math-7B")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 14.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00004.safetensors3.9 GB
• model-00003-of-00004.safetensors3.9 GB
• model-00002-of-00004.safetensors3.9 GB
• model-00004-of-00004.safetensors3.6 GB
• tokenizer.json7.0 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json27.8 KB
• LICENSE11.3 KB
• tokenizer_config.json7.3 KB
• README.md3.4 KB
• .gitattributes1.5 KB
• config.json678 B
• generation_config.json138 B

הרישיון

רישיון אפאצ'י שתיים אפס מתיר שימוש מסחרי מלא, שינוי של הקוד והפצה חופשית של המשקלים. אפשר לשלב אותו במוצרים פנימיים או חיצוניים בלי דרישה לפתוח את הקוד שלכם, בכפוף לשמירה על תנאי הקרדיט המקוריים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗