amazon-products-eval
קוד פתוחMarqoרישיון לא דווח2024-09-19
המאגר כולל מיליוני רשומות של מוצרי אמזון לבחינת מודלי חיפוש מולטימודליים. מי שבונה מנוע שליפה ויזואלי למסחר אלקטרוני מקבל פה מדד השוואה קשוח מול נתוני אמת.
- 358הורדות בחודש
- 23לייקים
מה זה
המאגר מציג נתונים שנועדו לבחון ביצועים של מודלי שיבוץ (Embeddings) בעולם המסחר המקוון. הרשומות מבוססות על מוצרים מאמזון, ומכילות שדות של מזהה פריט (item_ID), כותרת טקסטואלית (title) ותמונת מוצר (image). לפי התיעוד, המאגר נקרא AmazonProducts-3m ומשמש למשימת שליפה של תמונה על בסיס טקסט.
בתיעוד מוזכרת חלוקה בין שני משטרי בדיקה, אחד מורחב של כארבעה מיליון מוצרים שמיועד לדמות חיפוש אמיתי, ואחד מוקטן של כמאתיים אלף מוצרים שנבנה עבור מודלים שמוגבלים בקצב הקריאות לשרת. עם זאת, הדף עצמו לא מפרט כיצד המוצרים נאספו בפועל, מאיזה תאריכים הם, או מה היו שיקולי הסינון של הקטלוג.
מתאים ל
- הערכת מודלי שליפה לתמונות
בדיקת איכות של מודל שיבוץ מולטימודלי במשימת התאמת תמונת מוצר לפי כותרת טקסט.
- השוואת ביצועים מול SigLIP
הרצת הבנצ'מרק של Marqo כדי להשוות מודלים פרטיים למודלי קוד פתוח מובילים.
- בדיקת עומסי שליפה בקטלוג
מדידת זמני תגובה ודיוק של אינדקס וקטורי מול מיליוני מוצרים מעולם המסחר.
איפה זה נופל
הכרטיס שותק לחלוטין לגבי מקור הנתונים, זמני האיסוף שלהם וההרכב שלהם. אין מידע על השפות שקיימות בכותרות, אך סביר מאוד להניח שמדובר באנגלית בלבד ללא שום התאמה לשוק המקומי או לעברית. בנוסף, חסר פירוט על זכויות היוצרים של התמונות והטקסטים מאמזון, מה שאומר שאי אפשר לדעת אם מוצרים ישנים או חסרים נשמטו בסינון כלשהו. להכניס את זה כבנצ'מרק בלעדי למוצר ישראלי זו טעות, כי אופי השאילתות והשפה של משתמש מקומי שונים מהאופן שבו מוצרי אמזון מקוטלגים.
שאלות
נפוצות
האם מותר להשתמש בדאטהסט לפיתוח מוצר מסחרי?
לא. בדף המאגר לא צוין רישיון כלל, וזכויות התוכן עצמו שייכות ככל הנראה לאמזון ולמוכרים שלה. ללא רישיון שימוש פתוח וברור, אסור לבנות על זה מוצר מסחרי או לאמן מודלים לשימוש עסקי.
האם המאגר כולל עברית?
התיעוד לא מזכיר עברית כלל. מדובר בנתוני מוצרים מאמזון שמבוססים על אנגלית, ולכן המאגר לא מתאים לבדיקת שאילתות או טקסטים מקומיים.
כמה קבצים יש במאגר ואיך הם שמורים?
המאגר כולל מאה ושבעה קבצים, מתוכם מאה ושישה קבצי Parquet המחולקים לחלקים ממוספרים, וקובץ הסבר יחיד. המבנה הזה נועד לקריאה מבוזרת של נתונים ולא לטעינה בקובץ יחיד.
איך הנתונים נאספו ומאיפה הם הגיעו?
היוצרים לא פירטו בכרטיס המאגר איך הם אספו את המידע מאמזון או אילו סינונים בוצעו עליו. ידוע רק שהרשומות כוללות מזהי פריט, כותרות ותמונות שנועדו לבחון חיפוש מולטימודלי.
איך טוענים
הקוד הרשמי של Marqo מריץ את ההערכה דרך ספריית GCL שלהם, שם מושכים את הדאטהסט ישירות מהאבינג פייס באמצעות מזהה המאגר. הנתונים מחולקים למאה ושישה קבצי Parquet, כך שלא מדובר בקובץ בודד שפותחים בקלות בזיכרון מקומי, אלא בכמות משמעותית של מידע הדורשת תשתית מתאימה להורדה ולעיבוד. אין צורך בבקשת גישה מיוחדת או באישור ידני כדי להוריד את הקבצים. בעת ההרצה, הקוד מתמקד בשדות item_ID לצד title ו־image כדי לבצע את התאמת התמונה לטקסט.
from datasets import load_dataset
ds = load_dataset("Marqo/amazon-products-eval")הרישיון
המאגר פורסם ללא שום רישיון מוגדר. במצב כזה אין הרשאה משפטית להשתמש בנתונים, לא לפיתוח מסחרי ולא לאימון מודלים פנימיים בחברה. כל עוד Marqo לא הצמידו רישיון מפורש שמתיר שימוש, החומר מיועד בפועל רק להרצת סקריפט הבדיקה שלהם או למחקר זהיר, וכל שימוש אחר חושף אתכם לסיכון משפטי של הפרת זכויות.