GPT
T

truthy-dpo-v0.1

קוד פתוח

jondurbincc-by-4.02023-12-11

המאגר הזה מחזק היצמדות לאמת במודלי שפה, במיוחד סביב תפיסה גופנית, מרחב ותפיסת זמן. הוא מיועד למי שרוצה לאמן מודל שיודע מתי הוא בוט ומתי הוא מגלם דמות אנושית.

  • 2,755הורדות בחודש
  • 140לייקים

מה זה

הרשומות בנויות עבור אימון העדפה מסוג DPO. המטרה המרכזית כאן היא ללמד מודל להבדיל בין מצב שבו הוא עוזר וירטואלי רגיל לבין מצב של משחק תפקידים שבו הוגדר לו להתנהג כאדם. כשהוא עוזר, הוא לא אמור להמציא תחושות פיזיות כמו חום השמש, אבל בהנחיית מערכת מתאימה הוא צריך לשתף פעולה עם הסיפור.

התוכן מתמקד בעיקר במודעות גופנית, התמצאות במרחב ובזמן, ובתיקון של תפיסות שגויות נפוצות. מעבר להסבר הקצר הזה, הכרטיס לא מפרט מאיפה בדיוק נאספו הטקסטים, איך נוצרו ההעדפות השליליות והחיוביות, או באילו כלים בוצע סינון של הנתונים לפני השחרור.

מתאים ל

  • אימון DPO לעוזרים

    אימון מודל כך שיפסיק להמציא חוויות גופניות ותחושות אנושיות כשהוא מתפקד כעוזר.

  • משחקי תפקידים אמינים

    שמירה על תיאורי מגע ומרחב רק כאשר המודל מונחה במפורש לגלם דמות אנושית.

  • תיקון תפיסות שגויות

    הפחתת הזיות בעובדות נפוצות והגברת הדיוק בנושאי זמן ומיקום פיזי.

איפה זה נופל

הכרטיס קצר מאוד ולא חושף את מקור הדאטה, כך שאי אפשר לדעת אם התשובות נוצרו בידי אדם או סונתזו ממודל אחר. אין שום תיעוד על קיום עברית, ולפי התיאור והנושאים החומר נכתב באנגלית. חסר כל מידע סטטיסטי על כמות הדוגמאות, והיוצר לא מפרט הטיות או מגבלות בטיחות שקיימות בטקסטים.

שאלות
נפוצות

האם מותר להשתמש בדאטהסט לאימון מודל מסחרי?

כן, הרישיון הוא cc-by-4.0 שמתיר שימוש מסחרי מלא. התנאי היחיד הוא מתן ייחוס מתאים ליוצר המאגר jondurbin בעת השימוש.

האם יש בדאטהסט נתונים בעברית?

הכרטיס לא מזכיר עברית כלל והדוגמאות מנוסחות באנגלית. אם אתם בונים מודל שמיועד לעברית, תצטרכו לבדוק את קובץ הפרקט בעצמכם או לתרגם אותו.

איך נוצר המאגר ואיך נאספו הרשומות?

היוצר לא סיפק פרטים על מקור המידע, תהליך האיסוף או הסינון. הוא רק קישר למאגרי הקוד bagel ו־airoboros שלו לפיתוחים נוספים.

איך טוענים

אתם מושכים את הקובץ truthy-dpo.parquet ישירות מהמאגר של jondurbin בלי צורך באישור גישה מיוחד. המאגר מכיל שלושה קבצים בלבד ופתוח להורדה מיידית בספריות קוד סטנדרטיות. לפני האימון תצטרכו לבדוק את מבנה העמודות בקובץ הפרקט כדי לוודא התאמה לפורמט הנתונים שהסקריפט שלכם דורש לצורך DPO.

from datasets import load_dataset

ds = load_dataset("jondurbin/truthy-dpo-v0.1")

הרישיון

המאגר שוחרר ברישיון cc-by-4.0. הרישיון הזה מתיר שימוש מסחרי ומאפשר לשנות את הנתונים, כל עוד אתם נותנים קרדיט מתאים ליוצר. הוא אינו מחייב אתכם לשתף את המודל המאומן או את הנגזרות באותו הרישיון בדיוק.

  • שימוש מסחרי
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא ב־Hugging Face ↗