Bad_Data_Alpaca

מה זה

המאגר מרכז דוגמאות טקסט שנועדו לבחון התמודדות של מודלים עם תרחישים מורכבים ומסוכנים. התכנים עוסקים בנושאים כמו דילמות מוסריות, פעולות לא חוקיות, תכנים מיניים מפורשים ואלימות. המבנה בנוי בפורמט המוכר של אלפקה, שבו כל רשומה כוללת הנחיה ברורה, הקשר אופציונלי ותשובת יעד שמדגימה איך המודל אמור להגיב.

היוצרים לא מספקים מידע על מקור הטקסטים, מי כתב אותם או באילו שיטות הם נאספו וסוננו. ידוע רק שהגרסה שזמינה להורדה היא גרסה מקוצרת, שכן בגלל שיקולי אבטחה הועלה לקובצי המאגר קובץ מצומצם. אין חלוקה מוגדרת לקבוצות אימון ומבחן, אלא קובץ יחיד שמרכז את כל הדוגמאות יחד.

מתאים ל

• בדיקת עמידות מודל בסינית

  הערכת תגובות של מודל שפה מול הנחיות שמכילות תוכן אלים או לא חוקי בסינית.

• אימון לבטיחות שיחה

  כוונון עדין על תרחישים מורכבים כדי שהמודל יזהה דילמות אתיות ולא ייכשל בהן.

• מחקר על תכנים רגישים

  ניתוח התנהגות מודלים קיימים מול טקסטים בעייתיים בפורמט אלפקה.

איפה זה נופל

הנתונים כולם בסינית, כך שעבור פרויקטים בעברית או באנגלית המאגר הזה פשוט לא רלוונטי ללא תרגום. הוא גם קטן מדי, עם פחות מאלף דוגמאות בגרסה המקוצרת, וחסר כל פירוט על מי כתב את התשובות או מאיפה נלקחו השאלות. אי אפשר לדעת אם התשובות מייצגות סירוב בטוח או תגובה מפורטת אחרת, ולכן חובה לעבור ידנית על התוכן לפני שמכניסים אותו לתהליך עבודה.

איך טוענים

אין צורך לבקש אישור גישה מיוחד, אפשר להוריד את הקובץ ישירות מהמאגר. הנתונים מגיעים בקובץ JSON בשם bad_data-Abridged.json, ומכילים פחות מאלף רשומות, כך שמדובר במשקל קטן מאוד שלא דורש משאבים כבדים לטעינה. פותחים את הקובץ ישירות בסקריפט פייתון בעזרת ספריית json הרגילה. השדות החשובים בכל רשומה הם instruction שמכיל את הפנייה, input_text שמוסיף הקשר במידת הצורך, ו־target_text שמציג את הפלט המצופה מהמודל.

from datasets import load_dataset

ds = load_dataset("ystemsrx/Bad_Data_Alpaca")

הרישיון

המאגר מופץ תחת רישיון cc-by-nc-4.0. המשמעות פשוטה: השימוש מוגבל למחקר ולמטרות לא מסחריות בלבד, עם חובת מתן קרדיט ליוצרים. אסור לשלב את המאגר הזה במוצר מסחרי, ואם מאמנים עליו מודל, אי אפשר להשתמש במודל המאומן במסגרת עסקית שמניבה הכנסות.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא ב־Hugging Face ↗