open-instruct-uncensored
קוד פתוחQuixiAIapache-2.02023-06-22
גרסה לא מצונזרת של קובץ ההוראות מבית מכון אלן, ששימש במקור לאימון משפחת מודלי טולו. היא נועדה למי שרוצה לאמן מודל בלי סירובים מובנים ותשובות מתחמקות.
- 132הורדות בחודש
- 61לייקים
מה זה
המאגר מבוסס כולו על פרויקט open-instruct של מכון אלן, שאימן את סדרת המודלים tulu בנפחים של 7 עד 65 מיליארד פרמטרים. היוצר לקח את סקריפט הכנת המידע המקורי של הפרויקט, שינה אותו כך שיוריד את הגרסה הלא מסוננת של מאגר sharegpt, ואיחד את כל קובצי ה־JSONL המעובדים לקובץ אחד בשם open-instruct.jsonl.
על הקובץ המאוחד הזה הופעל סקריפט ייעודי בשם remove_refusals.py, שתפקידו לסנן החוצה דוגמאות שבהן המודל מסרב לענות. התוצאה היא הקובץ open-instruct-uncensored.jsonl, שמכיל שיחות והוראות שמטרתן לאמן מודלים עוקפי סירוב, כמו סדרת tulu-uncensored. אין כאן חלוקה מורכבת לחלקים נפרדים מעבר לשני קובצי הנתונים הללו, והשינוי העיקרי מול המקור הוא הסרת דפוסי הסירוב ושילוב הדאטה הלא מסונן.
מתאים ל
- אימון מודל ללא מגבלות סירוב
כוונון עדין של מודלי שפה פתוחים שלא ידחו בקשות משתמש שנויות במחלוקת.
- מחקר על דפוסי צנזורה
השוואה מול דאטהסטים רגילים כדי לראות אילו תשובות נמחקו או עברו שינוי.
- בדיקות חוסן ומבחני חדירה
הערכת עמידות של מודלים מול פרומפטים ישירים ללא מנגנוני הגנה מובנים.
איפה זה נופל
הכרטיס קצר מאוד ולא מפרט באילו שפות מדובר, אם כי המקור מתבסס על sharegpt ופרויקט open-instruct שברובו המוחלט באנגלית. אין שום תיעוד של בדיקות בטיחות, ולמעשה הסרת הסירובים נועדה לייצר מודל שלא עוצר בפני תוכן בעייתי. הנתונים עלו ביוני 2023 ומאז לא עודכנו, כך שחובה לסרוק את הפלטים ידנית אם אתם בונים שירות שחשוף לאנשים.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
הרישיון המוצהר במאגר הוא Apache 2.0, ורישיון כזה מתיר שימוש מסחרי. עם זאת, הנתונים מתבססים על sharegpt שמכיל פלטים שנוצרו על ידי מודלים של חברות אחרות. כדאי לבדוק את תנאי השימוש של מקורות המידע המקוריים לפני שמשלבים אותם במוצר עסקי.
האם המאגר כולל שיחות בעברית?
התיעוד אינו מציין תמיכה בעברית, והוא מבוסס על מאגרים שעיקרם באנגלית. ייתכן שיש דוגמאות בודדות במקרה, אך הוא אינו מיועד לאימון מודל בעברית. אם המטרה היא עבודה מקומית, תצטרכו להוסיף דאטה ייעודי בעברית משלכם.
מה ההבדל בין הקובץ המצונזר ללא מצונזר במאגר?
המאגר כולל את open-instruct.jsonl שהוא איחוד של נתוני מכון אלן עם sharegpt ללא סינון ראשוני. לצדו נמצא הקובץ open-instruct-uncensored.jsonl שעבר סינון נוסף בסקריפט כדי לנקות תבניות סירוב ידועות. ההבדל מתמצה בסינון פעיל של מקרים שבהם המודל מתחמק ממענה.
האם צריך אישור מיוחד כדי להוריד את הקבצים?
אין צורך בשום אישור גישה או מילוי טפסים מול היוצר. המאגר פתוח לחלוטין וניתן למשוך את הקבצים ישירות באמצעות כלי השורה של Hugging Face. כל חמשת הקבצים, כולל קוד הסינון, זמינים לצפייה ולהורדה מיידית.
איך טוענים
אין צורך בבקשת גישה מיוחדת, המאגר פתוח להורדה ישירה דרך Hugging Face. הנתונים מגיעים בקובצי JSONL, כשהקובץ הרלוונטי לעבודה נטולת סירובים הוא open-instruct-uncensored.jsonl. במאגר יש בסך הכל חמישה קבצים, כולל הסקריפט שביצע את הניקוי, כך שאפשר לבדוק את הלוגיקה שלו ישירות בקוד לפני שמתחילים באימון מודל.
from datasets import load_dataset
ds = load_dataset("QuixiAI/open-instruct-uncensored")הרישיון
הרישיון המדווח הוא Apache 2.0, שמאפשר שימוש מסחרי, שינוי והפצה של הקוד והנתונים, כל עוד שומרים על הודעות זכויות היוצרים והרישיון המקורי. המשמעות עבורכם היא שניתן לאמן מודלים על בסיס המאגר הזה ולהפיץ אותם בלי חובה לפתוח את הקוד שלכם.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים