Olmo-3-7B-Instruct

מה זה

הגרסה הזו מגיעה אחרי תהליך אימון שלם שכלל כוונון מונחה, אופטימיזציית העדפות, ואימון עם תגמולים שניתנים לאימות. המטרה כאן היא לתת מודל שמתמקד במענה להוראות, לצד שקיפות בכל הנוגע לנתונים ולמשקלי הביניים של שלבי הפיתוח.

במבחני ביצועים הוא מציג זינוק חד לעומת הדור הקודם של המשפחה. במתמטיקה במבחן MATH הוא רושם 87.3 לעומת 30.1 בלבד בגרסה 2, ובמבחן מעקב ההוראות IFEval הוא מגיע לציון 85.6. מצד שני, במבחני קידוד מורכבים כמו LiveCodeBench v3 הוא משיג 29.5 בלבד, ציון שנשאר נמוך משמעותית ממתחרים מקבילים כמו קוון 3 שמגיעים ליותר מ־50.

מתאים ל

• מעקב אחר הוראות באנגלית

  תוצאה של 85.6 במבחן IFEval מראה שהוא מתאים לביצוע משימות ניסוח מובנות שדורשות דיוק בהנחיות.

• פתרון בעיות מתמטיות

  ציון 87.3 במבחן MATH מאפשר לשלב אותו בבדיקה ותרגול של תרגילים מתמטיים מוגדרים היטב.

• מחקר על תהליכי אימון

  השחרור המלא של נתוני Dolci ושלבי המשקל השונים מאפשר לחקור את השפעת כל שלב אימון על התוצאה.

איפה זה נופל

הוא מוגדר לשפה האנגלית בלבד, וכל ניסיון להשתמש בו בעברית לא נתמך במפרט וצפוי להיכשל. מעבר לכך, ביצועי קריאת הכלים שלו נמוכים עם 49.8 בלבד במבחן BFCL, וגם ב־PopQA הוא יורד ל־14.1, מה שמעיד על שליפת עובדות חלשה. היוצרים מודים במפורש שהוא נוטה לייצר תוכן לא מדויק ללא בדיקת עובדות חיצונית, ולכן לא הייתי מחבר אותו למערכת אוטומטית בלי בדיקה קפדנית.

איך מריצים

המשקל הגולמי תופס 13.6 גיגה בייט, כך שצריך כרטיס מסך יחיד עם לפחות 16 עד 24 גיגה בייט זיכרון כדי לטעון אותו ישירות. אפשר להריץ אותו דרך ספריית transformers החל מגרסה 4.57.0, או דרך vLLM לעבודה עם תעבורה גבוהה יותר. כדי לחסוך מקום, המפתחים מציעים קוונטיזציה ל־8 ביט בעזרת bitsandbytes.

אם אין לכם שרת מקומי עם מאיץ מתאים ואתם צריכים רק שאילתות בודדות באנגלית, פנייה לפתרון אירוח מרוחק תהיה פשוטה וזולה יותר מתחזוקת תשתית עצמאית.

from transformers import pipeline

pipe = pipeline("text-generation", model="allenai/Olmo-3-7B-Instruct")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 13.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors5.0 GB
• model-00001-of-00003.safetensors5.0 GB
• model-00003-of-00003.safetensors4.6 GB
• tokenizer.json7.1 MB
• vocab.json1.6 MB
• merges.txt916.6 KB
• olmo-instruct.png105.0 KB
• model.safetensors.index.json29.6 KB
• README.md12.5 KB
• tokenizer_config.json4.3 KB
• chat_template.jinja2.6 KB
• config.json1.6 KB
• .gitattributes1.6 KB
• special_tokens_map.json581 B
• generation_config.json204 B

הרישיון

הרישיון הוא אפאצ'י 2.0 המוכר. מותר להשתמש בו לצרכים פנימיים, לשנות אותו, ולשלב אותו במוצרים מסחריים בלי תשלום תמלוגים, כל עוד שומרים על הודעות זכויות היוצרים ומצרפים עותק של הרישיון. היוצרים מציינים שהשימוש צריך להתאים גם להנחיות השימוש האחראי שלהם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗