GPT
הוספת כלי
O

OpenThinker-32B

קוד פתוח

open-thoughtsapache-2.02025-02-12

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • llama-factory

גרסה מכווננת של קוון שנועדה לחשיבה עמוקה ופתרון בעיות מורכבות. היא מתחרה ישירות בזיקוקים של דיפסיק אבל מגיעה עם קוד, נתונים ומשקלים פתוחים לחלוטין.

  • 33Bפרמטרים
  • 32,768טוקנים בהקשר
  • 61.0 GBמשקל הקבצים
  • 171הורדות בחודש

מה זה

מדובר בכוונון עדין של המודל Qwen2.5-32B-Instruct, שנעשה על בסיס מאגר נתונים של 114 אלף דוגמאות שזוקקו מתוך DeepSeek-R1. המטרה כאן ברורה, לייצר מודל חשיבה ונימוק מתמטי ומדעי חזק, בלי להישען על נתוני אימון סגורים. היוצרים שחררו את כל הצינור: המשקלים, נתוני האימון, והקוד ששימש ליצירת הדאטה ולהערכה.

במבחני התוצאה המודל עומד יפה מול המקור. במבחן MATH500 הוא קיבל ציון של 90.6, ובמבחן GPQA Diamond השיג 61.6, שני נתונים שעוקפים במעט את הגרסה המזוקקת הרשמית של דיפסיק באותו סדר גודל. עם זאת, במבחני תחרות כמו AIME24 הוא מגיע לציון 66 לעומת 76.7 של דיפסיק, ובמדד הקוד LCBv2 הוא עומד על 68.9 לעומת 71.2. הוא עדיין חזק מאוד, אבל הפער במשימות תכנות ותחרויות קיצון קיים ומורגש.

מתאים ל

  • פתרון בעיות מתמטיקה

    המודל קיבל 90.6 במדד MATH500 ומתאים לפירוק שלבי חישוב והוכחות מורכבות.

  • שאלות מדע ומחקר

    עם ציון של 61.6 ב־GPQA Diamond הוא מתאים לחילוץ תשובות הדורשות נימוק מדעי ברמה גבוהה.

  • מחקר על תהליכי חשיבה

    כל נתוני האימון והקוד שוחררו במלואם, מה שמאפשר לבדוק בדיוק איך נוצרו התשובות.

איפה זה נופל

למרות שארכיטקטורת הבסיס תומכת בחלון של עד 32,768 טוקנים, האימון עצמו בוצע עם אורך הקשר של 16 אלף בלבד. שימוש בטקסטים ארוכים מזה עלול לפגוע באיכות הנימוק. מעבר לזה, המודל אומן רק על אנגלית ומשימות טכניות, כך שאין שום הבטחה או בדיקה לגבי יכולות בעברית. לפני שמשלבים אותו במערכת אמיתית צריך לבדוק היטב שהוא לא מייצר שלבי חשיבה ארוכים ומפותלים מדי שסתם יאטו את זמן התגובה וינפחו את צריכת המשאבים.

אותה משפחה

OpenThinker יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

OpenThinker-7B3,745

שאלות
נפוצות

האם המודל הזה עדיף על הגרסה הרשמית של דיפסיק באותו גודל?

תלוי במשימה שלכם. במתמטיקה כללית ובשאלות מדעיות הוא מציג תוצאות דומות ואף מעט טובות יותר, אבל במשימות תכנות ובמבחני תחרויות קשים כמו AIME הגרסה של דיפסיק עדיין מובילה בכמה נקודות. היתרון המרכזי כאן הוא לאו דווקא הביצועים אלא השקיפות המלאה של נתוני האימון והקוד.

האם אפשר להריץ אותו על מחשב מקומי רגיל?

במשקלים המקוריים שפורסמו כאן אי אפשר, כי הם דורשים מעל 60 גיגה בייט בזיכרון ה־GPU. להרצה מקומית על מחשב פיתוח חזק תצטרכו להשתמש בגרסאות מכווצות של הקהילה שמורידות את דרישת הזיכרון לאזור ה־20 עד 24 גיגה בייט.

איך מריצים

המשקלים המקוריים שוקלים 61 גיגה בייטים בפורמט bfloat16 ומכילים כמעט 33 מיליארד פרמטרים. כדי להריץ אותו בלי קוונטיזציה תצטרכו לפחות 70 עד 80 גיגה בייט של זיכרון וידאו, כלומר שני כרטיסי A100 או כרטיס H100 בודד, רק כדי לטעון אותו ולהשאיר מקום לטוקנים בריצה.

אם אין לכם חומרה כזו זמינה, הפתרון המעשי היחיד להרצה מקומית הוא לחכות לקוונטיזציה של הקהילה לפורמטים כמו GGUF או EXL2, מה שיאפשר דחיסה לכרטיסים צרכניים חזקים. אם אתם צריכים את יכולות החשיבה שלו בסביבת פיתוח מהירה, עדיף בהרבה לפנות ל־API שמארח מודלי 32B דומים מאשר לשלם מאות דולרים בחודש על שרת ייעודי בענן.

from transformers import pipeline

pipe = pipeline("text-generation", model="open-thoughts/OpenThinker-32B")
print(pipe("שלום"))

הקבצים

32 קבצים במאגר, 61.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל משוחרר תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של המשקלים והפצה שלהם בתוך מוצרים, כל עוד אתם משמרים את הודעת זכויות היוצרים ומצרפים עותק של הרישיון המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗