open-image-preferences-v1-results
קוד פתוחdata-is-better-togetherapache-2.02024-11-28
עשרת אלפים זוגות תמונות שנוצרו על בסיס פרומפטים מורכבים עם דירוגי העדפה אנושיים. מתאים למי שרוצה לאמן מודלי תגמול או לכייל מודלי תמונה בלי להתחיל מאיסוף ידני.
- 31הורדות בחודש
- 31לייקים
מה זה
המאגר כולל עשרת אלפים זוגות של תמונות שנוצרו על ידי מודלים שונים, כשהמתנדבים בקהילה התבקשו לבחור מי מהן טובה יותר. הבסיס מגיע מפרומפטים של fal/imgsys-results שעברו תהליך של אבולוציה והרחבה לפי רמות מורכבות, סגנונות וקטגוריות שונות כדי לאתגר את המודלים.
כל רשומה מציגה את הפרומפט המקורי לצד שתי התמונות שנוצרו, וכוללת תיוג שמכיל את הבחירה האנושית: תמונה ראשונה, תמונה שנייה, שתיהן טובות, שתיהן גרועות או תוכן רעיל. המטא-דאטה מפרט גם את שמות שני המודלים שהתחרו בכל דוגמה ואת סוג האבולוציה שעבר הפרומפט.
הנתונים מרוכזים בחלוקה יחידה של train. אין כאן חלוקה מובנית לערכות ולידציה או מבחן, כך שמי שבונה על זה צריך לפצל את המידע בעצמו לפני תחילת העבודה.
מתאים ל
- אימון מודלי תגמול
לימוד מודל לדרג איכות ויזואלית והתאמה לפרומפטים מורכבים לצורך תהליכי RLHF.
- כיול מודלי תמונה
שימוש בזוגות עדיפים לשיפור היכולת של מודלי יצירת תמונה להיצמד להנחיות.
- הערכת ביצועי מחוללים
בדיקת התוצאות של מודלים שונים מול מאגר פרומפטים בעלי מורכבות מדורגת.
איפה זה נופל
התיוג מבוסס כולו על חוכמת ההמונים ומתנדבים מקהילת הקוד הפתוח, בלי פרטים על זהות המתייגים, רמת המומחיות שלהם או מדדי הסכמה ביניהם. הטקסטים והפרומפטים כולם באנגלית, בלי ייצוג לשפות אחרות או הקשר מקומי. מעבר לזה, הכרטיס משאיר סעיפים מרכזיים ריקים בנוגע להטיות, סינון מידע רגיש ואיסוף ראשוני, כך שחובה לסרוק את התוכן ידנית לפני שמשלבים אותו במערכת ייצור.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
כן, הרישיון המוגדר הוא apache-2.0 שמאפשר שימוש מסחרי מלא. עליכם לכלול את הצהרת זכויות היוצרים ואת תנאי הרישיון המקוריים בקוד או במוצר שלכם. אין דרישה לפתוח את הקוד שלכם או את המודלים שתאמנו.
האם הדאטהסט כולל תמיכה או פרומפטים בעברית?
לא, הפרומפטים שנאספו ונבדקו מבוססים כולם על השפה האנגלית בלבד. אם תרצו להשתמש בו עבור מודלים בעברית, תצטרכו לתרגם את הפרומפטים ולהעריך מחדש את ההתאמה שלהם לתמונות. אין במאגר שום נתון בשפות נוספות.
איך נאספו ההעדפות והתיוגים בפועל?
האיסוף התבצע כפרויקט קהילתי שבו משתמשים התבקשו לבחור את התמונה המוצלחת יותר מבין שתיים שנוצרו על בסיס אותו פרומפט. התיוג נמדד לפי שני פרמטרים עיקריים: דיוק ונאמנות לטקסט, ואיכות אסתטית. הממשק ששימש לאיסוף היה Argilla, והמתייגים יכלו לסמן גם מקרים של שוויון או תוכן בעייתי.
האם הנתונים מוכנים לחלוקה של רכבת ובדיקה?
לא, כל עשרת אלפים הרשומות מרוכזות בתוך ספליט יחיד של train. מי שרוצה להשתמש בהן לאימון והערכה נדרש לבצע פיצול עצמאי לסט בדיקה מראש. מומלץ לבצע את החלוקה תוך התחשבות במטא-דאטה של הפרומפטים כדי למנוע דליפת מידע בין הסטים.
איך טוענים
טוענים את הנתונים ישירות דרך ספריית datasets באמצעות load_dataset עם הנתיב של המאגר, או דרך argilla אם רוצים לעבוד עם שרת התיוג המקורי. הקבצים שמורים בפורמט parquet ומכילים חלוקת train יחידה, ללא צורך בהרשאות גישה מיוחדות. השדות הקריטיים לעבודה הם preference שמחזיק את תיוג המשתמשים, התמונות עצמן, והמטא-דאטה שמציין באילו מודלים השתמשו.
from datasets import load_dataset
ds = load_dataset("data-is-better-together/open-image-preferences-v1-results")הרישיון
המאגר מופץ תחת רישיון apache-2.0. הרישיון מתיר שימוש מסחרי, שינוי והפצה, בתנאי ששומרים על הודעות זכויות היוצרים והרישיון המקורי. אין חובת שיתוף באותו רישיון, ומותר לאמן על הדאטהסט מודלים מסחריים בלי לחשוף את המשקולות או את הקוד שפותח.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים