OpenAssistant Conversations - Democratizing Large Language Model Alignment

הסקירה

הפרויקט הזה מפרסם מאגר נתונים וקוד פתוח לאימון עוזרי שיחה, במקום לשמור אותם מאחורי חומות מסחריות. הוא מבוסס על עבודת התנדבות המונית שנועדה להתחרות במודלים סגורים כמו ChatGPT בלי להסתמך על מידע מלאכותי שנוצר על ידי מכונות אחרות. הצוות אסף 161,443 הודעות שנפרסו על פני 66,497 עצי שיחה בתוך 35 שפות שונות. כל עץ כזה מייצג מסלולים אפשריים בין שואל לעוזר, כולל 461,292 דירוגי איכות שנוצרו בידי בני אדם. התוצאה היא משאב חופשי שמיועד לאימון supervised fine-tuning ומודלי תגמול עבור RLHF. זה פרויקט מחקרי טהור.

מי שמחפש פה תחליף זריז למערכת צ'אט משרדית יתאכזב מיד. זהו מאגר נתונים פתוח למפתחים ולחוקרים, לא יישום מוגמר שמתקינים בלחיצה כדי לסגור משימות יומיות. מעל 13,500 מתנדבים השתתפו באיסוף דרך פלטפורמת אינטרנט ייעודית, כשהם מבצעים יותר מ־625,000 משימות שונות של כתיבה, תיוג ודירוג תשובות לפי העדפות אישיות. הגישה לקוד נמצאת ב־GitHub והמידע עצמו יושב ב־HuggingFace תחת רישיונות מתירניים לחלוטין. אם אתם בונים מודל עצמאי ורוצים נתוני התאמה אנושיים, זה בדיוק המקום שמספק את חומרי הגלם הדרושים לעבודה שלכם.

מבנה הנתונים ואיסוף התוכן

בסיס הנתונים בנוי במבנה היררכי שנקרא עץ שיחה, שבו כל צומת הוא הודעה שנכתבה על ידי אדם או מכונה בתפקיד שואל או עוזר. השורש של כל עץ מתחיל בהנחיה ראשונית, וממנה מתפצלים ענפים המייצגים תגובות שונות של העוזר, המשכי שיחה ותיוגי איכות. המערכת חילקה את תהליך העבודה לחמש משימות בודדות כדי למנוע אובדן מידע כשאנשים נוטשים באמצע. המתנדבים כתבו הנחיות, הוסיפו תגובות, הדביקו תוויות בטיחות ודירגו תשובות מקבילות זו מול זו. המבנה הזה מאפשר לחלץ רצפי שיחה שלמים לצד צמדי השוואה מדויקים שנחוצים עבור מודלי תגמול.

זה עובד אחרת לגמרי ממאגרים סינתטיים.

ההבדל המרכזי מול מאגרים חופשיים אחרים הוא ההסתמכות המלאה על בני אדם במקום על שאילתות אוטומטיות למודלים קיימים. מערכות רבות מסתמכות על טקסטים שמיוצרים על ידי מודלים מסחריים, מה שיוצר לעיתים קרובות תוכן מוגבל ברמת היצירתיות שלו ומבוסס על רשימת הוראות קבועה מראש. כאן איסוף התוכן נעשה בפיקוח שכלל סינון דואר זבל ובקרת איכות על גבי יותר מ־10,000 עצים מסוננים ומתוייגים במלואם. מחקר העדפות שמובא במסמך מציג שיעור העדפה של 48.3% לתשובות של OpenAssistant מול 51.7% לטובת מודל GPT-3.5-turbo של חברת OpenAI. הפער מפתיע לטובה.

למי זה שווה את המאמץ

לא הייתי משתמש בזה למי שמחפש פתרון ארגוני מהיר לניהול לקוחות או כתיבת מסמכים שוטפת, כי אין פה שירות ענן מוכן לשימוש עסקי יומיומי. הכלי מתאים לחוקרים, מדעני נתונים ומפתחי למידת מכונה שרוצים לאמן מודלים על תשתית עצמאית בלי תלות במדיניות חברות מסחריות. האתר מציין שהמאגר כולל 35 שפות שונות, אך הוא אינו מפרט את רשימת השפות המלאה ולכן לא ידוע מה היקף העברית שם, אם היא קיימת בכלל. אם אתם זקוקים להתאמה מדויקת בעברית, שווה לבדוק את הרכב השפות בקבצים לפני שמתחילים אימון.

אין פה עלויות נסתרות.

מבחינת כסף, אין באתר מחירון משום שהקוד והנתונים משוחררים בחינם תחת רישיונות שימוש פתוחים לחלוטין. הגישה למאגר עצמו אינה עולה דבר, אך החזקת התשתית לאימון מודלים כאלה דורשת מעבדים גרפיים יקרים משלכם או שכירת שרתים בענן. אין כאן מדרגות מנוי, תוכניות חודשיות או מסלולים בתשלום, והכול זמין להורדה ישירה דרך המאגרים הציבוריים של הפרויקט. מה שבאמת מפריע כאן הוא חוסר הפירוט על חלוקת השפות, שמחייב אתכם להוריד את הקבצים ולסנן אותם לבד כדי לוודא התאמה לפרויקט מקומי.

תצטרכו לבדוק את הקבצים בעצמכם.

• מחיר שימושחינם בקוד פתוח
• תמיכה בעבריתלא צוינה בפירוט
• מספר שפות35 שפות שונות