AgentInstruct
קוד פתוחzai-orgרישיון לא דווח2023-10-16
מאגר אינטראקציות ממוקד לאימון סוכנים אוטונומיים בשיטת ReAct. הוא מרכז מסלולי פעולה מסוננים שנועדו ללמד מודלי שפה תכנון וקבלת החלטות מורכבות.
- 2,462הורדות בחודש
- 240לייקים
מה זה
המאגר כולל 1,866 מסלולי אינטראקציה מסוננים ומדויקים של בינה מלאכותית, שנוצרו באמצעות שיטות כמו Task Derivation ו־Self-Instruct על בסיס GPT-4. הנתונים לא נשמרו כפי שהם, אלא עברו סינון קפדני לפי מערכת תגמולים ובדיקות למניעת דליפת נתונים, כדי לוודא שכל מסלול אכן פותר את המשימה בהצלחה.
התוכן מחולק לשישה תרחישים שונים שנשמרים בקבצים נפרדים. התחומים כוללים פעולות בסיסיות של משק בית ב־ALFWorld עם ממוצע של מעל 13 צעדים, רכישות ב־WebShop, גלישה באינטרנט דרך Mind2Web, שאילתות מול גרפי ידע, ניהול פקודות במערכות הפעלה, ושאילתות מול מסדי נתונים. כל רשומה מתעדת צעדי מחשבה ופעולה מפורטים לפי מתודולוגיית ReAct.
מתאים ל
- אימון סוכני קוד ומערכת
חידוד מודל שפה להרצת פקודות טרמינל וקריאות למסדי נתונים לפי דוגמאות הפעולה בקובצי os ו־db.
- פיתוח סוכני רשת
לימוד מודלים כיצד לנווט באתרי קניות ובממשקי ווב בעזרת תרחישי WebShop ו־Mind2Web.
- כוונון יכולות ReAct
שילוב המאגר עם דאטהסט שיחה רחב כדי ללמד מודל לחשוב שלב אחר שלב לפני ביצוע פעולה.
איפה זה נופל
החיסרון המרכזי כאן הוא ההיקף. מדובר ב־1,866 דוגמאות בלבד, כך שזה לא מאגר שמספיק לאימון מלא מאפס, אלא רק לחידוד יכולות ספציפיות לצד דאטהסטים רחבים יותר. בנוסף, כל הנתונים באנגלית בלבד, ואין פה שום ייצוג לעברית או לממשקים מקומיים. מי שבונה סוכן לשוק הישראלי יצטרך לבדוק איך המודל מתמודד עם תרגום הפקודות והמחשבות בזמן אמת, או לאסוף דוגמאות עצמאיות.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא מומלץ בכלל. המאגר פורסם ללא רישיון רשמי, מה שאומר שאין הרשאה חוקית להשתמש בו. בנוסף, הנתונים מבוססים על פלטים של GPT-4, דבר שמפר את תנאי השימוש של OpenAI אם המטרה היא לאמן מודל מתחרה.
האם הדאטהסט כולל תמיכה בעברית?
לא. כל 1,866 המסלולים כתובים באנגלית בלבד. אם המטרה היא להפעיל סוכן מול ממשקים בעברית, תצטרכו לתרגם את הנתונים או לבצע אימון נוסף.
איך אספו וסיננו את הנתונים במאגר?
החוקרים ייצרו את המסלולים בעזרת GPT-4 ושיטות Self-Instruct על פני שישה תרחישים שונים. כדי להבטיח איכות גבוהה, הם הפעילו מערכת תגמולים שפסלה מסלולים שגויים, והשאירו רק אינטראקציות שפתרו את המשימות בהצלחה ללא דליפת נתונים.
במה הוא שונה מדאטהסטים אחרים של שיחות?
זה אינו מאגר שיחה רגיל בין משתמש לעוזר. כל דוגמה בנויה בתבנית של הנמקה ופעולה מול סביבה אמיתית, כולל מחשבות פנימיות של המודל, קריאות לפונקציות וקבלת תצפיות חוזרות.
איך טוענים
הנתונים מחולקים לשישה קבצי parquet לפי סוגי המשימות, למשל alfworld, db או os. אין צורך בבקשת גישה מיוחדת, טוענים אותם ישירות דרך ספריית datasets באמצעות המזהה zai-org/AgentInstruct. הפורמט מותאם ישירות למבנה השיחה של Llama-2-chat, כולל פרומפט מערכת קבוע של עוזר שימושי, ישר ומכבד.
from datasets import load_dataset
ds = load_dataset("zai-org/AgentInstruct")הרישיון
היוצרים לא הגדירו רישיון בכרטיס המאגר. מבחינה משפטית, היעדר רישיון אומר שאין היתר שימוש מפורש, ובטח שלא היתר לשימוש מסחרי. מעבר לכך, הנתונים נוצרו בעזרת GPT-4, מה שמוסיף מגבלות שימוש של חברת OpenAI על אימון מודלים מתחרים. אי אפשר להכניס את זה למוצר מסחרי בלי לקחת סיכון משפטי ברור.