llava-critic-113k

מה זה

המאגר מחולק לשני תרחישי הערכה מרכזיים, pointwise ו־pairwise. בחלק של pointwise המטרה היא לתת ציון לתשובה בודדת. המפתחים אספו זוגות של הוראות ותשובות מתוך 8 מאגרים מולטימודליים ו־13 מודלים שונים, הוסיפו פרומפטים להערכה מתוך 7 בנצ'מרקים פתוחים, והשתמשו ב־GPT-4o כדי לייצר ציונים ונימוקים. הרשומות האלה מכילות תמונה, שאלה, תשובה, תשובת ייחוס אופציונלית, קריטריון הערכה, ציון ונימוק.

החלק של pairwise נועד להשוות בין שתי תשובות ולקבוע מי מהן טובה יותר. כאן נאספו זוגות תשובות עם העדפה ידועה מראש, נבנו 30 תבניות פרומפט להשוואה, ו־GPT-4o התבקש לנמק את ההעדפה. המבנה כולל תמונה, שאלה, שתי תשובות, קריטריון הערכה, העדפה ונימוק.

מתאים ל

• אימון מודל שופט

  לימוד מודל לתת ציון ונימוק מילולי לתשובות שנוגעות לתמונות על בסיס קריטריונים מוגדרים.

• דירוג תשובות מולטימודליות

  השוואה אוטומטית בין שתי תשובות של מודלי ראייה שונים כדי לבחור את התשובה העדיפה.

• איסוף העדפות ל־RLHF

  שימוש בזוגות התשובות והנימוקים המוכנים כבסיס לדירוג העדפות אנושיות או ממוחשבות.

איפה זה נופל

כל הנימוקים והציונים נשענים על GPT-4o, כך שהמודל שמאמנים עליהם עלול לשכפל הטיות מובנות של מודל המקור. הדאטהסט לא כולל עברית והבנצ'מרקים המקוריים מבוססים על אנגלית, כך שאי אפשר להשתמש בו ישירות להערכת תוכן מקומי. בנוסף, הכרטיס לא מפרט סינון ידני של פלטי השיפוט, מה שמחייב בדיקה מדגמית של איכות הנימוקים לפני שילוב בתהליכי הערכה אוטומטיים.

איך טוענים

הנתונים שמורים בקובצי parquet בתוך שתי תיקיות נפרדות עבור pointwise ועבור pairwise. טוענים אותם באמצעות ספריית datasets הרגילה של Hugging Face בלי צורך בבקשת גישה מיוחדת. כדאי לשים לב לעבודה עם עמודת התמונה ולחלוקה בין שדות הקלט כמו קריטריוני ההערכה לבין שדות הפלט שכוללים את הציונים והנימוקים.

from datasets import load_dataset

ds = load_dataset("lmms-lab/llava-critic-113k")

הרישיון

המאגר פורסם ברישיון apache-2.0. הרישיון מאפשר שימוש מסחרי, שינוי והפצה של הנתונים, כל עוד שומרים על הודעת זכויות היוצרים ומצרפים את נוסח הרישיון. הוא אינו כופה שיתוף של מודלים או נגזרות תחת אותו רישיון.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗