GPT
הוספת כלי
O

Olmo-3-7B-Think

קוד פתוח

allenaiרישיון לא דווח2025-11-18

  • transformers
  • safetensors
  • olmo3
  • text-generation
  • conversational

גרסת חשיבה פתוחה של Ai2 שנועדה להתחרות במודלים הקטנים המובילים במתמטיקה ותכנות. היא מייצרת שרשראות חשיבה מפורטות לפני התשובה הסופית כדי לפתור בעיות מורכבות.

  • 65,536טוקנים בהקשר
  • 13.6 GBמשקל הקבצים
  • 68,575הורדות בחודש
  • 107לייקים

מה זה

מדובר במודל שפת טקסט בגודל שבעה מיליארד פרמטרים, שעבר אימון ייעודי הכולל כוונון עדין, אופטימיזציית העדפות ולמידת חיזוק מתגמולים ניתנים לאימות. התהליך הזה מכוון כולו לייצור שרשרת חשיבה ארוכה בתגיות ייעודיות, מה שמסייע לו להתמודד עם בעיות לוגיות מרובות שלבים.

במבחני ביצועים הוא מציג תוצאות חזקות מאוד לגודל שלו. ב־MATH הוא מגיע ל־95.1 נקודות, ובמבחן HumanEval+ לקוד הוא משיג 89.9 נקודות. המשמעות היא שבמשימות מתמטיקה ופיתוח תוכנה מוגדרות היטב, הוא מיישר קו עם מודלים מתחרים כמו Qwen 3 8B ואף עוקף את הגרסה המזוקקת של DeepSeek R1 7B בהפרש ניכר.

מתאים ל

  • פתרון בעיות קוד ואלגוריתמים

    התוצאה הגבוהה ב־HumanEval+ ושרשרת החשיבה הופכות אותו לכלי יעיל לבדיקה וכתיבה של לוגיקה תכנותית.

  • חישובים והוכחות מתמטיות

    הוא מגיע לציון 95.1 ב־MATH בזכות היכולת לפרק בעיות שלב אחר שלב בתוך תגי החשיבה.

  • מחקר על תהליכי הסקה

    כל שלבי האימון ונקודות הביקורת פתוחים להורדה, מה שמאפשר לנתח בדיוק איך המודל למד לחשוב.

איפה זה נופל

הכרטיס מדגיש שאין כאן מנגנון סינון בטיחות מובנה, ולכן קל לגרום לו לייצר תוכן פוגעני, שגוי או מוטה. בנוסף, המודל אומן על אנגלית בלבד עם תאריך עדכון של דצמבר 2024. בכל הקשור לידע כללי ושאלות עובדתיות הוא בינוני מאוד, עם ציון נמוך של 23.7 ב־PopQA ו־46.2 בלבד ב־GPQA, כך שהוא נוטה להזיות כשהשאלה דורשת שליפת עובדות ולא פתרון לוגי.

שאלות
נפוצות

האם המודל מתאים לשימוש בעברית?

הכרטיס מציין רשמית תמיכה באנגלית בלבד. לא הייתי בונה עליו לפרויקטים בעברית, כי הביצועים בלוגיקה ובחשיבה ייפגעו משמעותית.

במה הוא שונה מגרסת ה־Instruct הרגילה של אותו מודל?

גרסת ה־Think עברה אימון ייעודי לחשיבה ארוכה ופולטת בלוק מחשבות לפני התשובה. זה נותן דיוק גבוה יותר בלוגיקה ובקוד, אך מייצר יותר טוקנים ומאריך את זמן המענה.

איך מריצים

כדי להריץ אותו במשקל המקורי ב־bfloat16, קבצי המשקלים תופסים 13.6 גיגה־בייט, כך שתצטרכו כרטיס מסך עם לפחות 16 עד 24 גיגה־בייט זיכרון כדי להשאיר מקום לקונטקסט. אפשר להשתמש בקוונטיזציה ל־8 ביט דרך transformers כדי לחסוך מקום, או להרים אותו ישירות ב־vLLM עם ההגדרות המומלצות של טמפרטורה 0.6.

אם אין לכם חומרה ייעודית מקומית ואתם צריכים רק שאילתות בודדות, פנייה לפתרונות ענן תהיה פשוטה בהרבה. הרצה עצמית שווה את המאמץ בעיקר אם אתם בונים מערכת מקומית שדורשת חלון הקשר מלא של 65,536 טוקנים או בדיקות של נקודות ביקורת ספציפיות מתהליך האימון.

from transformers import pipeline

pipe = pipeline("text-generation", model="allenai/Olmo-3-7B-Think")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 13.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

בכרטיס המודל נכתב שהוא מופץ תחת רישיון Apache 2.0 ומיועד למחקר ולחינוך לפי קווי ההנחיה של Ai2. עם זאת, במטא־דאטה של המאגר לא דווח רישיון רשמי, ולכן מומלץ לבדוק את תנאי השימוש מולם לפני שילוב ישיר במוצר מסחרי.

הרישיון המלא בעמוד המודל ↗