Mathstral-7B-v0.1

מה זה

מיסטראל לקחו את הארכיטקטורה המוכרת של שבעה מיליארד פרמטרים ואימנו אותה מחדש עם דגש כבד על מתמטיקה ומדעים. בניגוד למודלים כלליים שנוטים להמציא חישובים או להישבר בשאלות מילוליות מורכבות, הוא מכוון ישירות לחשיבה אנליטית מסודרת. יש לו חלון הקשר של 32,768 טוקנים, כך שאפשר להזין לו מסמכים מדעיים ארוכים, קטעי הוכחות או כמה שאלות במקביל בלי לחתוך את הטקסט.

במבחנים הקשים באמת רואים את ההבדל בינו לבין מודלים מקבילים. במבחן MATH הוא מגיע לציון של 56.6 נקודות, כמעט זהה לקיואן 2 ועוקף בהרבה את דיפסיק מאת' ואת לאמה 3. במבחני תחרות כמו אודיסי מאת' או AMC הוא פותח פער יפה מול המתחרים, מה שמראה שההיגיון המתמטי שלו עמוק יותר משינון נוסחאות בסיסי.

מתאים ל

• עוזר למחקר מדעי

  ניתוח משוואות ופירוק הוכחות במאמרים מדעיים ארוכים תודות לחלון הקשר הרחב.

• פתרון בעיות הנדסיות

  המרת שאלות מילוליות בפיזיקה והנדסה לשלבי חישוב מדויקים בלי להזדקק למודל ענק.

• בדיקת שיעורי בית

  אימות שלבי פתרון והסבר צעדים במתמטיקה תיכונית ואקדמית במערכות למידה.

איפה זה נופל

במבחן GSM8K הבסיסי הוא קיבל 77.1 נקודות, תוצאה נמוכה יותר מדיפסיק מאת' שמגיע ל־80.6. במבחן AIME הקשה ביותר הוא פתר רק 2 שאלות מתוך 30, שזה אמנם שווה ערך לקיואן המוביל אבל ממחיש בבירור שמתמטיקה אולימפית מורכבת עדיין גדולה עליו. אל תצפו ממנו להיות חזק בכתיבה חופשית, בשיחה כללית או בעברית, כי כל האופטימיזציה שלו הוקדשה לחשיבה מדעית טהורה.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־40.5 גיגה בייט בדיוק מלא, אבל בריצה מעשית ב־bfloat16 תצטרכו כרטיס מסך עם לפחות 16 עד 24 גיגה זיכרון כדי לעבוד בנוחות עם חלון הקשר מלא. אפשר להריץ אותו מקומית דרך הספרייה הייעודית של מיסטראל בשורת הפקודה, או לטעון אותו בקוד פייתון רגיל עם טרנספורמרס.

אם אין לכם חומרה ייעודית מקומית או שרת ענן עם מעבד גרפי מתאים, עדיף לפנות לממשקי ענן שמגישים אותו. להרים שרת בשביל מודל של שבעה מיליארד פרמטרים זה הגיוני רק אם אתם חייבים פרטיות מוחלטת למידע או שאתם מייצרים נפח שאילתות גדול וקבוע.

pip install -U huggingface_hub
hf download mistralai/Mathstral-7B-v0.1

הקבצים

18 קבצים במאגר, 40.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• consolidated.safetensors14.5 GB
• model-00004-of-00006.safetensors5.0 GB
• model-00003-of-00006.safetensors5.0 GB
• model-00001-of-00006.safetensors5.0 GB
• model-00002-of-00006.safetensors4.9 GB
• model-00005-of-00006.safetensors4.8 GB
• model-00006-of-00006.safetensors4.3 GB
• tokenizer.json2.0 MB
• tokenizer.model587.6 KB
• tokenizer.model.v3587.6 KB
• tokenizer_config.json137.9 KB
• model.safetensors.index.json23.9 KB
• README.md5.2 KB
• .gitattributes1.5 KB
• config.json624 B
• special_tokens_map.json414 B
• params.json202 B
• generation_config.json116 B

הרישיון

הקוד והמשקולות משוחררים תחת רישיון אפאצ'י 2.0 המלא. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע אותו במוצר שלכם או לאמן עליו הלאה בלי לשלם תמלוגים, כל עוד אתם שומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗