orca-best
קוד פתוחshahules786רישיון לא דווח2023-08-12
גרסה מסוננת של מיליון הוראות מאורקה מבוסס GPT-4, שמיועדת לאימון מודלי שיחה. המטרה כאן היא איכות על פני כמות, אחרי זריקת דוגמאות קצרות וכפילויות.
- 77הורדות בחודש
- 42לייקים
מה זה
המאגר מבוסס על שחזור נתוני Orca GPT-4 של אריק הרטפורד מפרויקט דולפין. היוצר זיהה שהמקור מלא בהוראות פשוטות מדי שפוגעות ביכולת ההכללה של המודל, ולכן העביר את הנתונים שני שלבי סינון קפדניים.
בשלב הראשון נמחקו כל התשובות שהכילו פחות מ־100 תתי-מילים. בשלב השני נעשה ניקוי כפילויות לפי סוגי הוראות, באמצעות מודל שיקוע GTE ודמיון קוסינוס עם סף של מעל 0.95, כאשר מכל אשכול נבחרה דוגמה בודדת. התהליך הזה כיווץ את כמות הנתונים לשליש מגודל המקור, והחומר שנשאר שימש בפועל לאימון מודלים של פרויקט Open-Assistant כמו llama2-70b-oasst-sft-v10.
מתאים ל
- אימון הוראות למודלי קוד פתוח
כוונון עדין של מודלי שפה על הוראות מורכבות יחסית, במקום לשרוף משאבים על תשובות טריוויאליות.
- סינון והשוואת דאטהסטים
בדיקת ההשפעה של דה-דופליקציה וסינון לפי אורך על איכות הפלט של המודל ביחס למקור המלא.
- שחזור מודלים של Open-Assistant
אימון מחדש של ארכיטקטורות דוגמת Llama 2 על אותו בסיס נתונים ששימש את מפתחי הפרויקט.
איפה זה נופל
הסינון התבסס לחלוטין על מדדים טכניים של אורך טוקנים ודמיון וקטורי, ולא על בדיקה אנושית של העובדות. אם המקור מ־GPT-4 הכיל הזיות, הן עדיין עשויות להופיע כאן אם התשובה הייתה ארוכה ממאה טוקנים. בנוסף, המאגר נוצר באוגוסט 2023, ממוקד כולו באנגלית, ואינו כולל נתונים בעברית.
שאלות
נפוצות
האם מותר להשתמש במאגר למוצר מסחרי?
לא מומלץ בכלל. לא צוין רישיון בדף המאגר, מה שאומר שאין לכם הרשאה חוקית להשתמש בו, ובנוסף מדובר בפלטים שנוצרו על ידי מודלים מסחריים של OpenAI.
האם יש בדאטהסט תמיכה בעברית?
לא. כל ההוראות והתשובות מבוססות על נתוני Orca באנגלית, ואין פה דגימות בשפות אחרות.
מה ההבדל בינו לבין Dolphin או Orca המקורי?
הוא קטן פי שלושה. הוסרו ממנו כל התשובות הקצרות שמכילות פחות מ־100 טוקנים, ונוקו כפילויות סמנטיות קרובות כדי להשאיר רק תוכן צפוף ומורכב.
כמה דוגמאות יש בפנים?
הכרטיס לא מציין מספר רשומות מוחלט. הוא כן מציין שהסינון הוריד את הכמות לשליש מתוך כמיליון ההוראות שהיו במאגר Orca GPT-4 המקורי.
איך טוענים
אתם מושכים את המאגר ישירות דרך ספריית datasets של Hugging Face עם המזהה shahules786/orca-best, בלי צורך בבקשת גישה מיוחדת. הנתונים מאורגנים בתוך שני קבצי parquet שמרכיבים את פיצול האימון, לצד קובץ התיעוד. לפני שאתם מתחילים להריץ את תהליך ה־SFT, ודאו שצינור הנתונים שלכם קורא נכון את מבנה ההוראות והתשובות מתוך הקבצים, שכן המאגר כולל רק את חלוקת האימון המקורית ללא פיצול מובנה מראש לצורכי ולידציה.
from datasets import load_dataset
ds = load_dataset("shahules786/orca-best")הרישיון
היוצר לא הגדיר רישיון במאגר. במצב כזה, מבחינה משפטית אין היתר שימוש ברור, לא לצרכים מסחריים ואפילו לא למחקר. בנוסף, היות שהנתונים מבוססים על פלטים סינתטיים של GPT-4 ששוחזרו ממיזם חיצוני, אימון מודל מסחרי עליהם חושף אתכם להפרת תנאי השימוש של יוצרי הדאטה המקורי.