OLMo-2-1124-7B-Instruct

מה זה

המודל מציג זינוק עצום ביחס לדור הקודם של סדרת OLMo, עם ממוצע ציונים שעלה מ־28.2 ל־54.8 במבחנים המקובלים. הוא עבר שרשרת כוונון שכוללת SFT, לאחר מכן DPO, ולבסוף אימון RLVR שחידד את יכולות החישוב והמענה. במבחני מתמטיקה בסיסיים כמו GSM8k הוא מגיע ל־85.1 נקודות, תוצאה שמציבה אותו קרוב למתחרים סגורים יותר במשקל הזה.

מול מודלים כמו Llama 3.1 8B או Qwen 2.5 7B הוא עדיין מפסיד בביצועים הכלליים, במיוחד בהבנת ידע כללי ומשימות מתמטיות מורכבות. היתרון שלו אינו עליונות בטבלאות אלא שקיפות מוחלטת, כל שלבי הביניים, מערכי הדאטה ותהליכי האימון פתוחים לגמרי לבדיקה ולשחזור.

מתאים ל

• מחקר והבנת תהליכי אימון

  כל שלבי האימון מ־SFT ועד RLVR זמינים להורדה, מה שמאפשר לבדוק שינויים בכל שלב.

• פתרון בעיות חישוב באנגלית

  האימון הממוקד העלה את הדיוק ב־GSM8k ל־85.1, מעולה להסבר שלבי חשבון פשוטים.

• סביבות מקומיות מנותקות רשת

  גודל של 7.3B מאפשר הרצה מקומית על כרטיס בודד ללא תלות בספקים חיצוניים.

איפה זה נופל

חלון ההקשר מוגבל ל־4,096 טוקנים בלבד, נתון קצר מאוד שמקשה על ניתוח מסמכים ארוכים או שיחות מתמשכות. בנוסף, המודל אומן בעיקר על אנגלית, ואין לו אימון ייעודי לעברית כך שהוא אינו מתאים לעבודה שוטפת בשפה הזו.

בכרטיס המודל מודגש בפירוש שאימון הבטיחות שלו מוגבל מאוד ואין בו מנגנוני סינון תגובות מובנים בזמן ריצה, כך שהוא מייצר פלטים בעייתיים אם מבקשים זאת. לפני שילוב שלו מול משתמשי קצה חובה לבנות שכבת סינון ובקרה חיצונית.

אותה משפחה

OLMo-2-1124 יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקלים תופסים 13.6 גיגה בייט בדיוק bfloat16, כך שתצטרכו כרטיס מסך בודד עם לפחות 16 גיגה בייט זיכרון כדי להעלות אותו בלי קיצוצים. כדי לעבוד איתו צריך להתקין את transformers ישירות מגרסת הפיתוח ב־GitHub, כי התמיכה בארכיטקטורה הזו עדיין לא נכנסה לשחרור רשמי רגיל.

אם אתם צריכים רק שירות צ'אט מהיר באנגלית או שאין לכם כרטיס ייעודי, עדיף לפנות ל־API חיצוני של מודל מסחרי. ההרצה העצמית של המודל הזה משתלמת בעיקר כשחייבים פרטיות מלאה, או כשרוצים לבצע fine-tuning על גבי המשקלים המקוריים.

from transformers import pipeline

pipe = pipeline("text-generation", model="allenai/OLMo-2-1124-7B-Instruct")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 13.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors5.0 GB
• model-00001-of-00003.safetensors5.0 GB
• model-00003-of-00003.safetensors4.6 GB
• tokenizer.json7.1 MB
• vocab.json1.6 MB
• merges.txt916.6 KB
• model.safetensors.index.json29.6 KB
• README.md9.3 KB
• tokenizer_config.json4.9 KB
• .gitattributes1.5 KB
• config.json679 B
• special_tokens_map.json581 B
• generation_config.json126 B

הרישיון

הרישיון הוא Apache 2.0 שמאפשר שימוש מסחרי, שינוי והפצה של הקוד והמשקלים. עם זאת, האימון שילב נתונים שנוצרו ממודלים של צד שלישי הכפופים לתנאי השימוש של Gemma, כך שחובה לוודא שהשימוש שלכם אינו מפר תנאים אלה לצד דרישת הייחוס הרגילה של אפאצ'י.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗