UltraMedical

מה זה

המאגר מאחד מקורות ידועים כמו MedQA, MedMCQA, PubMedQA ו־ChatDoctor, לצד דאטהסטים סינתטיים ייעודיים שנבנו עבור הפרויקט כמו MedQA-Evol ו־TextBookQA. הרשומות מחולקות לקטגוריות של מבחנים רפואיים, ספרות מחקרית ושאלות פתוחות, כשהמטרה היא לכסות מגוון רחב של רמות מורכבות.

הצוות ביצע סינון מבוסס מודל באמצעות gpt-3.5-turbo שהעניק ציון לכל הוראה, ורק חלק מהדגימות המקוריות נכנסו לאוסף הסופי. כל רשומה כוללת מזהה ייחודי שמשלב את שם המקור, שיחה עם שאלה ותשובה שנוצרו או הותאמו בעזרת GPT-4, תשובה מקורית, ואת ציון האיכות שניתן להוראה.

מתאים ל

• אימון מודלי שיחה רפואיים

  כוונון עדין של מודלי שפה למתן מענה מורכב ומנומק על שאלות בנושאי רפואה ובריאות.

• סימולציה של מבחני רפואה

  אימון והערכה של מודלים בפתרון שאלות מרובות ברירה מתוך בחינות הסמכה רפואיות.

• תחקור ספרות מחקרית

  שיפור היכולת של מודל להתמודד עם שאלות המבוססות על תקצירי מחקרים מ־PubMed.

איפה זה נופל

כל הטקסט במאגר כתוב באנגלית בלבד, כך שהוא לא יעזור למי שבונה פתרון ייעודי לעברית ללא תרגום והתאמה. בנוסף, חלק עצום מהתשובות וההרחבות יוצר על ידי GPT-4 וסונן על ידי מודל שפה נוסף, מה שמכניס הטיות והזיות סינתטיות שאי אפשר לסמוך עליהן בעיוורון בעולם הרפואי. חובה לערוך ולידציה אנושית של מומחים לפני שמשתמשים בו במערכות קליניות אמיתיות.

איך טוענים

טוענים את הנתונים ישירות דרך ספריית datasets באנגלית, ללא צורך בהרשאת גישה מיוחדת או אישור מקדים. הקבצים שמורים בפורמט parquet ומחולקים לשלושה חלקים עיקריים שמרכיבים יחד את קבוצת האימון. השדות המרכזיים שתרצו לבדוק בעיבוד הם conversation, שכולל את השאלות והתשובות מ־GPT-4, לצד שדות המזהה והציון.

from datasets import load_dataset

ds = load_dataset("TsinghuaC3I/UltraMedical")

הרישיון

המאגר מפורסם ברישיון MIT, שמאפשר שימוש חופשי כולל שימוש מסחרי, שינוי והפצה, כל עוד שומרים על הודעת זכויות היוצרים המקורית. הרישיון לא מגביל אימון של מודלים קנייניים, אך כדאי לקחת בחשבון שהתוכן נוצר בחלקו בעזרת שירותי חברת OpenAI.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗