alpaca-gpt4-data

מה זה

הנתונים מבוססים על פרויקט כוונון ההוראות באמצעות GPT-4 של צוות המחקר שפרסם את המאמר באפריל 2023. מדובר ברשומות של שאלות ותשובות שנועדו לאימון מודלים לעקוב אחרי הוראות, כאשר התוכן כולו נוצר ישירות מהמודל של OpenAI במטרה לשחזר ולשפר את פורמט אלפקה המקורי.

המאגר כולל בין עשרת אלפים למאה אלף רשומות ומכיל שלושה קבצים, ביניהם קובץ הנתונים המרכזי alpaca_gpt4_data.json. לפי התיעוד הקיים, החומר כולו מרוכז באנגלית, והצוות מפנה למאגר חיצוני נפרד עבור גרסה בסינית, ללא פירוט נוסף על חלוקה פנימית או סינון בכרטיס עצמו.

מתאים ל

• אימון מודלים מחקריים

  כוונון מודלים בקוד פתוח על פלטים של GPT-4 כדי לבדוק יכולת מעקב אחרי הוראות באנגלית.

• השוואת איכות סינתטית

  בדיקת ההבדלים בין תשובות של מודלים שונים מול מאגר התשובות שנוצר על ידי GPT-4.

• ניסויי יישור והוראות

  הרצת ניסויים אקדמיים על טכניקות אימון שונות ללא כוונה להוציא מוצר מסחרי.

איפה זה נופל

החומר כולו באנגלית, ולכן מי שבונה מודל לעברית לא ימצא כאן מענה ישיר. הנתונים מגיעים מאפריל 2023 ומבוססים על פלטים סינתטיים של GPT-4, מה שאומר שהם סוחבים איתם את ההטיות, השגיאות וההזיות של המודל שיצר אותם. הכרטיס לא מפרט תהליך של בקרת איכות אנושית או סינון רעלים, כך שחובה לבדוק מדגם בעצמכם לפני שמריצים אימון.

איך טוענים

טוענים את המאגר ישירות דרך הספרייה של Hugging Face לפי המזהה llm-wizard/alpaca-gpt4-data, או מורידים ישירות את הקובץ data/alpaca_gpt4_data.json. הגישה פתוחה לגמרי ואין צורך בהרשאות מיוחדות. הקובץ מגיע בפורמט JSON סטנדרטי של הוראות, כך שתוכלו לקרוא אותו בכל סביבת פייתון רגילה בלי לעבור המרות מורכבות.

from datasets import load_dataset

ds = load_dataset("llm-wizard/alpaca-gpt4-data")

הרישיון

יש כאן סתירה שחשוב להכיר: המטא-דאטה מדווח על רישיון cc-by-4.0, אבל הטקסט של הכרטיס קובע במפורש שמדובר ברישיון CC BY NC 4.0 למחקר בלבד. המשמעות היא שאין להשתמש בנתונים למטרות מסחריות, והמגבלה הזו חלה גם על מודלים שתאמנו עליהם. אם אתם מתכננים מוצר מסחרי, המאגר הזה פשוט לא מתאים.

• שימוש מסחרי
• שינוי הקוד
• חובת ייחוס

הרישיון המלא ב־Hugging Face ↗