hercules-v2.0
קוד פתוחLocutusqueapache-2.02024-02-03
מאגר הוראות מגוון שמבוסס על מעל מיליון שיחות ודוגמאות הפעלת פונקציות. הוא מרכז דאטהסטים מובילים במטרה לשפר יכולות מדעיות ומענה מורכב.
- 147הורדות בחודש
- 24לייקים
מה זה
המאגר מכיל 1,307,174 רשומות שמבוססות על OpenHermes-2.5, לצד הרחבות ממקורות כמו Camel ChatML, Airoboros, Glaive, Evol Instruct ונתוני שיחות של LMSYS. הדגש כאן הוא על תחומי מדעים מדויקים כמו ביולוגיה, רפואה, פיזיקה, מתמטיקה ומדעי המחשב, יחד עם תרחישי משחקי תפקידים ומעקב אחר הוראות.
המבנה הפנימי הוא רצף אינטראקציות בפורמט דמוי שיחה, שבו כל הודעה מסומנת באמצעות השדות from ו־value. המזהים כוללים לא רק human ו־gpt אלא גם שלבים של function-call ו־function-response, מה שמאפשר לראות את הקריאה עצמה ואת התשובה שחזרה ממנה. רוב הטקסט נוצר על ידי מודלים של GPT-4, אך יש בפנים גם פלטים של Claude בגרסאותיו השונות ו־GPT-3.5.
מתאים ל
- אימון סוכנים לקריאת פונקציות
לימוד מודלים לזהות מתי להפעיל כלים חיצוניים ולייצר פלט JSON מתאים.
- כוונון למענה מדעי ומדויק
שיפור ביצועים במענה לשאלות מורכבות במתמטיקה, מדעי המחשב ורפואה.
- שיפור מעקב אחר הוראות
הקניית יכולת להתמודד עם הנחיות שיחה ארוכות ותרחישי משחקי תפקידים.
איפה זה נופל
היוצר מזהיר במפורש שהמאגר מכיל דוגמאות רעילות, כך שאי אפשר לדחוף אותו ישירות לאימון מודל שפונה למשתמשי קצה בלי סינון קפדני. בנוסף, כל הנתונים הם באנגלית בלבד, ואין כאן התאמה לשפות אחרות. מאחר שהתוכן נשען כולו על פלטים סינתטיים של מודלים כמו GPT-4 ו־Claude מתחילת 2024 ומטה, המודל שלכם עלול ללמוד הטיות, שגיאות עובדתיות והזיות שהיו קיימות במודלים האלה.
אותה משפחה
hercules יצא ב־5 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
האם יש בדאטהסט תמיכה בעברית?
לא. הדאטהסט מוגדר ומכיל טקסטים באנגלית בלבד. אם המטרה היא כוונון מודל לעברית, תצטרכו לתרגם את הנתונים או לשלב מקורות אחרים.
האם מותר להשתמש בו למוצר מסחרי?
הרישיון המוצהר הוא Apache 2.0 שמתיר שימוש מסחרי מלא. הבעיה היא שהדאטה מורכב מתוצרי GPT-4 ומודלים של אנתרופיק, מה שעלול להתנגש עם תנאי השימוש שלהם לגבי אימון מודלים מתחרים.
איך נאסף המידע?
הוא נוצר מאיחוד של מעל 15 מאגרי מידע קיימים, ביניהם גרסאות שונות של Glaive, תת קבוצות של Dolphin ו־MetaMathQA, ושיחות ממאגר LMSYS. רוב הפלטים סונתזו על ידי גרסאות שונות של GPT ו־Claude.
מה ההבדל בינו לבין OpenHermes-2.5?
הוא משתמש ב־OpenHermes-2.5 כבסיס אך מרחיב אותו בצורה משמעותית. נוספו לו דוגמאות ממוקדות מקצועית בתחומי הרפואה, הביולוגיה והקוד, לצד רשומות רבות של Function Calling מתוך Glaive.
איך טוענים
טוענים את הנתונים ישירות דרך ספריית datasets באמצעות הנתיב Locutusque/hercules-v2.0, ללא צורך באישור גישה מקדים. המאגר מחולק לשלושה קבצי Parquet שמכילים יחד את כל סט האימון. בכל רשומה חשוב לעבד נכון את רשימת ההודעות ואת השדות from שמגדירים מי הדובר, במיוחד אם רוצים לסנן רק דוגמאות של קריאות לפונקציות או להמיר את המבנה לפורמט שמודל מסוים דורש.
from datasets import load_dataset
ds = load_dataset("Locutusque/hercules-v2.0")הרישיון
המאגר מופץ תחת רישיון Apache 2.0 שמתיר שימוש מסחרי, שינוי והפצה ללא דרישה לשתף את הקוד תחת אותו רישיון, ומחייב רק מתן קרדיט והצהרת זכויות יוצרים. עם זאת, מכיוון שהנתונים נוצרו ברובם על ידי GPT-4 ומודלים מסחריים סגורים אחרים, תנאי השימוש של ספקיות המודלים המקוריות עשויים להגביל אימון של מודלים מתחרים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים