GPT
הוספת כלי
M

math-shepherd-mistral-7b-prm

קוד פתוח

peiyi9979רישיון לא דווח2024-01-03

  • transformers
  • pytorch
  • llama
  • text-generation
  • text-generation-inference

במקום לפתור משוואות, המודל הזה בודק צעד אחרי צעד איפה טעיתם בדרך לפתרון. הוא משמש כמודל תגמול לתהליך חישוב, ומדרג כל שלב בנפרד בעזרת תג מיוחד.

  • 4,096טוקנים בהקשר
  • 14.7 GBמשקל הקבצים
  • 6,538הורדות בחודש
  • 48לייקים

מה זה

מי שאימן את המודל הזה לקח את הבסיס של mistral-7b והפך אותו ל־Process Reward Model מפרויקט Math-Shepherd. רוב המודלים מנסים לפתור שאלות מתמטיות בעצמם או נותנים ציון רק לתוצאה הסופית. כאן הרעיון שונה לגמרי. אתם מזינים לו שאלה יחד עם שלבי הפתרון, מפרידים כל שלב בעזרת התג קי, והוא מוציא ציונים לכל שלב בנפרד.

בפועל הוא לא פולט טקסט חופשי אלא logits, שדורשים עיבוד נוסף כדי לקבל ציון הסתברותי לכל צעד בחישוב. זה מתאים למי שבונה מערכות חיפוש כמו עץ החלטות לפתרון בעיות, או רוצה לזהות בדיוק באיזו שורה של פתרון מתמטי נפלה טעות חישוב.

מתאים ל

  • סינון שלבי פתרון במודלים

    זיהוי נקודת הכשל בשרשרת חשיבה מתמטית כדי לבחור את המסלול הנכון.

  • אימון במודל תגמול

    מתן ציונים לכל צעד לטובת אימון מודלים אחרים בשיטות למידת חיזוק.

  • בדיקת תרגילים במערכות למידה

    הערכת תקינות שלבי ביניים של תלמידים לפי הציון של כל שלב בחישוב.

איפה זה נופל

הוא לא פותר שאלות מאפס, ואם תתנו לו שאלה בלי פתרון מוצע הוא פשוט לא יעשה כלום. מעבר לזה, הוא לא מחזיר תשובה קריאה לבני אדם. הפלט הוא ערכי logits גולמיים, מה שאומר שחייבים לכתוב קוד צד לקוח שמחלץ את הציונים עבור התג קי ומנרמל אותם.

בנוסף, הכרטיס דל מאוד ולא מציג מדדי ביצועים, מגבלות שפה או נתונים על שפות שאינן אנגלית. אי אפשר לדעת איך הוא יתמודד עם ניסוחים בעברית בלי לבדוק אותו ישירות.

שאלות
נפוצות

האם המודל יפתור לי תרגילי מתמטיקה ישירות?

לא. המודל נבנה כדי לבדוק פתרונות קיימים ולא כדי לייצר פתרונות חדשים. אתם צריכים לספק לו את השאלה ואת שלבי הפתרון המלאים, והוא רק יחזיר ציונים לכל שלב.

איך מקבלים ציון מספרי לכל שלב?

הפלט מהרצת המודל הוא logits על גבי הטוקן קי שמפריד בין השלבים. צריך לחלץ את הערכים האלה מהפלט של הרשת ולהמיר אותם להסתברויות כדי להבין אם הצעד נכון או שגוי.

איך מריצים

כדי להריץ אותו מקומית צריך לפחות 16 גיגה-בייט של זיכרון כרטיס מסך עבור משקלי bfloat16, או כרטיס של 24 גיגה-בייט כדי שיישאר מקום לחישובים עצמם. המודל שוקל 14.7 גיגה-בייט ורץ דרך ספריית transformers הרגילה בארכיטקטורת LlamaForCausalLM עם חלון הקשר של 4,096 טוקנים.

אם אין לכם כרטיס מסך מתאים בענן או מקומית, אין פה פתרון מדף פשוט. היוצר לא סיפק API מוכן או שרת מנוהל, כך שתצטרכו להרים שרת משלכם או להשתמש בפלטפורמת ענן שמריצה מודלים של Hugging Face ישירות מהמשקלים.

from transformers import pipeline

pipe = pipeline("text-generation", model="peiyi9979/math-shepherd-mistral-7b-prm")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 14.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

היוצר לא דיווח על רישיון כלשהו בעמוד המודל. מבחינה משפטית, היעדר רישיון אומר שאין לכם הרשאה מפורשת להשתמש בו, להפיץ אותו או לשלב אותו במוצר מסחרי. לפני שמשלבים אותו במערכת אמיתית, חייבים לפנות ליוצר או לבדוק את תנאי המאמר המקורי.

הרישיון המלא בעמוד המודל ↗