bioinstruct
קוד פתוחbio-nlp-umassmit2024-06-06
המאגר כולל 25 אלף הוראות ודוגמאות סינתטיות שנוצרו על ידי GPT-4 ביולי 2023. הוא מיועד למי שרוצה לאמן מודל שפה כללי להבין ולבצע משימות בעולם הרפואי.
- 195הורדות בחודש
- 25לייקים
מה זה
הנתונים נבנו בהשראת שיטת Self-Instruct, בתהליך אוטומטי שהתחיל מסט קטן של 80 משימות בסיס שנכתבו ידנית. המשימות האלה נלקחו מפוצלי אימון של מאגרים רפואיים מוכרים כמו MedQA, emrQA, MeQSum ו־MedNLI. החוקרים הזינו ל־GPT-4 שלוש דוגמאות אקראיות בכל פעם כדי לייצר דוגמאות חדשות.
התוצאה היא 25 אלף שורות בפורמט הוראות פשוט. לפי הסיווג של יוצרי המאגר, כשליש מהמשימות עוסקות בחילוץ מידע, כשליש ביצירת טקסט, כ־23 אחוזים במענה על שאלות, והשאר משימות שונות כמו אבחנה מבדלת או בדיקת התאמה לניסויים קליניים. המבנה אחיד ומכיל הוראה, קלט אופציונלי ותשובה שנוצרה על ידי המודל.
מתאים ל
- אימון הוראות רפואי
כוונון עדין של מודלי קוד פתוח כדי שילמדו לענות על שאלות קליניות ולהבין מונחים רפואיים.
- חילוץ ישויות ומידע
לימוד מודלים לאתר מחלות, מינונים ותסמינים מתוך טקסטים רפואיים לא מובנים.
- פישוט שפה רפואית
התאמת הסברים מורכבים על מנגנוני פעולה של תרופות לשפה יומיומית שמטופלים יכולים להבין.
איפה זה נופל
כל התוכן מיוצר על ידי מודל שפה ולא נבדק ידנית על ידי רופאים. מודלים מסחריים נוטים להזיות, וברפואה זה סיכון ממשי שדורש בדיקה קפדנית לפני כל שימוש מעשי. בנוסף, כל הנתונים באנגלית בלבד, ונוצרו בנקודת זמן אחת ביולי 2023. אם אתם בונים כלי בעברית או מערכת שאמורה לפעול מול רגולציה מקומית, תצטרכו לתרגם ולהתאים את המונחים לבד.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
הרישיון שהחוקרים הגדירו הוא MIT, שמתיר שימוש מסחרי חופשי לחלוטין. עם זאת, כל התוכן נוצר באמצעות GPT-4 של OpenAI. תנאי השימוש של OpenAI עשויים להגביל אימון של מודלים שמתחרים בהם ישירות, ולכן כדאי לבדוק את הנקודה הזו לפני שמשקיעים משאבים באימון מסחרי.
האם יש במאגר תמיכה בשפה העברית?
לא, כל 25 אלף הרשומות כתובות באנגלית בלבד. המשימות מבוססות על מחקרים וטקסטים שנאספו במקור באנגלית. אם תרצו להשתמש בו למוצר מקומי, תצטרכו לתרגם את הנתונים ולהתאים את המונחים לעולם הרפואי בישראל.
איך אספו ויצרו את הנתונים?
החוקרים לקחו 80 משימות בסיס מתוך מאגרים רפואיים קיימים כמו MedQA ו־emrQA. לאחר מכן הם הזינו דוגמאות מתוכן לתוך GPT-4 ביולי 2023 כדי לייצר באופן אוטומטי עשרות אלפי משימות חדשות עם תשובות. התהליך כולו היה אוטומטי לחלוטין ולא כלל בדיקה ידנית של כל רשומה.
במה המאגר הזה שונה ממאגרי שאלות ותשובות רפואיים רגילים?
רוב המאגרים הרפואיים מתמקדים במבנה יחיד, למשל שאלות רב-ברירה ממבחני הסמכה או סיכומי ביקורים. כאן מדובר בסט נתונים רחב של הוראות מגוונות שמכסות יצירת טקסט, פישוט מונחים, אבחון ראשוני וחילוץ מידע. המטרה שלו היא לא רק למדוד ידע, אלא ללמד מודל איך לבצע משימות שונות לפי בקשה.
איך טוענים
המאגר ציבורי ופתוח להורדה ישירה ללא צורך באישור גישה. כל המידע מרוכז בקובץ יחיד בשם biomed_instruct_25k.json. השדות פשוטים לחלוטין: instruction שמכיל את המשימה הייחודית, input שכולל הקשר או מידע נוסף כמו שם של תרופה כשיש צורך, ו־output עם התשובה המלאה. אפשר לטעון אותו ישירות לפייתון או דרך ספריית הדאטהסטס לעבודה מיידית.
from datasets import load_dataset
ds = load_dataset("bio-nlp-umass/bioinstruct")הרישיון
המאגר מפורסם ברישיון MIT, שמתיר שימוש מסחרי, שינוי והפצה ללא דרישה לשתף את הקוד תחת אותו רישיון. החובה היחידה היא שמירת הקרדיט ונוסח הרישיון המקורי. עם זאת, מכיוון שהנתונים הופקו על ידי מודל של OpenAI, צריך לקחת בחשבון את תנאי השימוש שלהם לגבי אימון מודלים מתחרים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש