prometheus-7b-v2.0

מה זה

במקום עוד מודל שיחה כללי, המודל הזה אומן על גבי Mistral-7B-Instruct-v0.2 במטרה לתפקד כשופט. היוצרים שלו אימנו אותו על 100 אלף דוגמאות משוב ו־200 אלף דוגמאות של העדפה בין שתי תשובות, ומיזגו את המשקולות כדי שיתמוך בשני הפורמטים. הוא מחזיר נימוק מפורט וציון מספרי, או בוחר את התשובה הטובה יותר מבין שתיים.

ההבדל העיקרי בינו לבין מודלים אחרים בגודל שבעה מיליארד פרמטרים הוא המיקוד. מודל רגיל נוטה להחמיא או לסטות מהקריטריונים. כאן המבנה קשיח, ומחייב לשלוח הוראה, תשובה לבדיקה, תשובת ייחוס ומחוון ציונים של 1 עד 5. הדיוק שלו נשען על הפורמט הזה, כך שאי אפשר סתם לזרוק אליו שאלה ולקוות לטוב.

מתאים ל

• הערכת ביצועי מודלים

  מתאים להרצת בדיקות אוטומטיות על תשובות של מודלים פנימיים לפי מחוון מוגדר מראש.

• השוואת תשובות A/B

  דירוג של שני פלטים שונים מול תשובת ייחוס כדי לבחור את הגרסה המוצלחת ביותר.

• אימון מודלי תגמול

  ייצור משוב וציונים לצורך איסוף דאטה לשלבי למידת חיזוק ממשוב אנושי.

איפה זה נופל

המודל תומך רשמית באנגלית בלבד, כך שבדיקת פלטים בעברית צפויה להיכשל או להניב תוצאות עקומות. בנוסף, הוא לא יודע לשפוט סתם כך בלי הכנה מוקדמת. כל בדיקה דורשת מכם לספק תשובת ייחוס איכותית ומחוון מפורט, מה שהופך את השימוש בו לכבד להגדרה.

מעבר לזה, המפתחים מציינים שדאטה האימון שלו נשען על נתונים שנוצרו על ידי OpenAI וכפוף לתנאי השימוש שלהם. אם אתם בונים מוצר שמתחרה ישירות בשירותי החברה, זו נקודה משפטית שצריך לבחון היטב.

אותה משפחה

prometheus יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ 13.5 ג'יגה-בייט בפורמט bfloat16 תצטרכו כרטיס מסך יחיד עם לפחות 16 עד 24 ג'יגה-בייט VRAM. המודל רץ ישירות דרך ספריית transformers, אבל היוצרים בנו עבורו ספריית פייתון ייעודית בגיטהאב שמטפלת בהרכבת הפרומפטים ובפירוק התוצאה אחרי התגית שמפרידה את הציון.

אם אתם מריצים הערכות על אלפי דוגמאות במקביל, שרת מקומי יחסוך עלויות ענן משמעותיות מול ספקי צד שלישי. מצד שני, קיים גם מודל גדול יותר של אותה משפחה בארכיטקטורת 8x7B, כך שאם יש לכם חומרה חזקה יותר או שאתם דורשים רמת דיוק גבוהה יותר, עדיף לבדוק אותו לפני שמתחייבים לגרסה הזו.

from transformers import pipeline

pipe = pipeline("text-generation", model="prometheus-eval/prometheus-7b-v2.0")
print(pipe("שלום"))

הקבצים

18 קבצים במאגר, 13.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00004-of-00008.safetensors2.0 GB
• model-00001-of-00008.safetensors2.0 GB
• model-00003-of-00008.safetensors2.0 GB
• model-00005-of-00008.safetensors1.9 GB
• model-00007-of-00008.safetensors1.9 GB
• model-00002-of-00008.safetensors1.9 GB
• model-00006-of-00008.safetensors1.9 GB
• model-00008-of-00008.safetensors788.6 MB
• tokenizer.json1.8 MB
• tokenizer.model493.4 KB
• finegrained_eval.JPG213.2 KB
• model.safetensors.index.json22.8 KB
• README.md8.1 KB
• tokenizer_config.json2.1 KB
• .gitattributes1.5 KB
• config.json653 B
• special_tokens_map.json551 B
• mergekit_config.yml206 B

הרישיון

הקוד והמשקולות מפורסמים תחת רישיון Apache 2.0 שמתיר שימוש מסחרי, שינוי והפצה בלי תמלוגים, בתנאי ששומרים על הודעת זכויות היוצרים. יחד עם זאת, בדף המודל מצוין שהנתונים ששימשו לאימון כפופים לתנאי השימוש של OpenAI, מה שעלול להגביל שימושים מסוימים במוצר מסחרי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗