Leanstral-1.5-119B-A6B

קוד פתוח

mistralaiapache-2.02026-07-01

vllm

מודל קוד של מיסטרל שנבנה ספציפית להוכחת משפטים ואימות תוכנה בשפת Lean 4. הוא מתאים למי שצריך אוטומציה של הוכחות מתמטיות מורכבות או אימות פורמלי של קוד.

113 GBמשקל הקבצים
197הורדות בחודש
217לייקים

מה זה

מדובר במודל שפת קוד מולטימודלי ממשפחת Mistral Small 4, שמקבל טקסט ותמונות ופולט טקסט. המבנה שלו מבוסס תערובת מומחים עם 119 מיליארד פרמטרים סך הכול, אבל רק 6.5 מיליארד מהם פעילים בכל טוקן דרך 4 מומחים מתוך 128. הוא תומך בחלון הקשר של עד 256 אלף טוקנים, אם כי ההמלצה הרשמית היא להישאר באזור ה־200 אלף.

הייחוד שלו הוא ההתמקדות המוחלטת ב־Lean 4, שפה להוכחות מתמטיות ואימות תוכנה. הוא מסוגל לתקשר עם כלי עבודה ייעודיים דרך קריאות לפונקציות, לבדוק אם קוד מתקמפל, ולבצע משימות ארוכות טווח של הוכחת משפטים במשך שעות עבודה רצופות.

מתאים ל

הוכחת משפטים ב־Lean 4
הוא מאומן ספציפית לייצר הוכחות אינדוקטיביות ולפתור בעיות מתמטיות פורמליות ארוכות.
אימות מפרטי תוכנה
מתאים לבדיקה ואימות פורמלי של נכונות קוד, למשל עבור חלקי מערכת שנכתבו ב־Rust.
סוכן אוטונומי לתיקון קוד
עובד מול שרתי שפה של Lean ומריץ קוד כדי לתקן שגיאות קומפילציה בפרויקט באופן עצמאי.

איפה זה נופל

המודל הזה הוא כלי צר מאוד. הוא מאומן על Lean 4, ולכן הוא לא תחליף למודל תכנות כללי כמו קלוד או GPT לפיתוח ווב, פייתון או כתיבת סקריפטים רגילה. בנוסף, מפתחי המודל מציינים במפורש שאם הביצועים בהרצה מקומית ירודים, עדיף להשתמש ב־API שלהם, מה שמעיד על רגישות גבוהה להגדרות השרת וההסקה.

שאלות
נפוצות

האם כדאי להריץ את המודל על מחשב פיתוח מקומי?

לא. המשקלים תופסים 113 גיגה בייט ודורשים לפחות ארבעה מעבדים גרפיים חזקים במקביל כדי לתפקד עם הקשר סביר. עדיף להשתמש ב־API של מיסטרל או בכלי ה־CLI שלהם.

האם אפשר להשתמש בו כעוזר תכנות כללי לפייתון או ג'אווהסקריפט?

זה לא מיועד לזה. כל הארכיטקטורה והכוונון שלו נבנו סביב שפת ההוכחות Lean 4, ולשפות סטנדרטיות יש מודלים כלליים מוצלחים וזולים בהרבה.

איך מריצים

כדי להריץ 113 גיגה בייט של משקלים מקומית, תצטרכו שרת רציני. הפקודה הרשמית ב־vLLM דורשת חלוקה של 4 כרטיסי מסך במקביל עם FLASH_ATTN_MLA, וסביר להניח שתצטרכו לפחות ארבעה כרטיסי A100 או H100 כדי להחזיק את המודל ואת חלון ההקשר העצום שלו.

אם אין לכם אשכול שרתים כזה במשרד או בענן, מיסטרל עצמה ממליצה לגשת אליו דרך ה־API שלהם או באמצעות כלי ה־CLI שנקרא vibe. החשבון החינמי שלהם מאפשר גישה למודלי המעבדה האלה בלי לשלם על מנוי פרו, מה שהופך את ההרצה המקומית למיותרת עבור רוב המשתמשים.

pip install -U huggingface_hub
hf download mistralai/Leanstral-1.5-119B-A6B

הקבצים

13 קבצים במאגר, 113 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את המשקלים, להפיץ אותם מחדש ולשלב אותם במוצרים סגורים, כל עוד שומרים על הקרדיט והודעת הרישיון המקורית.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗