SlideChat
קוד פתוחGeneral-Medical-AIרישיון לא דווח2024-11-07
המאגר כולל נתוני אימון והערכה להבנת שקופיות פתולוגיות שלמות, משולבים בהוראות טקסט ומענה על שאלות. הוא מיועד למי שמפתח מודלי שפה רב מודליים בתחום הרפואי וזקוק לחיבור בין תמונות פתולוגיה לטקסט.
- 1,047הורדות בחודש
- 18לייקים
מה זה
הנתונים מחולקים לשני חלקים עיקריים: שלב האימון ושלב ההערכה. באימון יש קובצי JSON המכילים נתוני הנחיות בשני שלבים, הראשון מיועד ליצירת תיאורים מילוליים של שקופיות שלמות והשני מתמקד במענה על שאלות ויזואליות. כל רשומה מקשרת בין המידע התמונתי של השקופית לבין משימת השפה שהמודל נדרש לבצע.
חלק ההערכה נקרא SlideBench ומאורגן בקובצי CSV. הוא מכיל משימות סגורות של מענה על שאלות ומשימות יצירת דוחות ותיאורים. המידע נאסף מכמה קוהורטים רפואיים מוכרים בעולם הפתולוגיה, בהם TCGA, CPTAC, Histai ו־BCNB, כאשר הכרטיס אינו מפרט תהליכי סינון ידניים או אוטומטיים שבוצעו על המקורות הללו.
מתאים ל
- אימון מודל שפה פתולוגי
חיבור נתוני שקופית שלמה לטקסט בשני שלבי אימון, תיאור שקופית ומענה על שאלות רפואיות.
- מבחן ביצועים לשאלות ויזואליות
בדיקת יכולת של מודל קיים לענות על שאלות סגורות מתוך שקופיות על בסיס קובצי ההערכה.
- הערכת הפקת דוחות רפואיים
מדידת הדיוק והעקביות של מודלים בניסוח דוחות ותיאורים על קוהורטים מוכרים כמו TCGA ו־CPTAC.
איפה זה נופל
הכרטיס לא מספק מידע על תהליך הניקוי, הסינון או הסרת זיהוי של הנתונים, ולא ידוע האם קיימות הטיות דמוגרפיות או פתולוגיות שמקורן במאגרים המקוריים. כל הטקסטים והמשימות מבוססים על קוהורטים בינלאומיים באנגלית, כך שאין שום תמיכה או התייחסות לעברית. בנוסף, חסר פירוט לגבי חלוקת החולים או מניעת דליפת נתונים בין שלבי האימון למבחני ההערכה, דבר שמחייב בדיקה עצמאית לפני שמסתמכים על המדדים.
שאלות
נפוצות
האם מותר להשתמש במאגר לפיתוח מוצר מסחרי?
לא מומלץ בכלל. המאגר פורסם ללא רישיון מוגדר, מה שאומר שאין לכם הרשאה חוקית להעתיק, לאמן או להפיץ מודלים שמבוססים עליו. כדי לעשות בו שימוש מסחרי תצטרכו לפנות ליוצרים ולקבל הסכם רישוי מפורש.
האם הנתונים כוללים טקסטים או תמיכה בעברית?
לא. כל הנתונים מגיעים מקוהורטים בינלאומיים באנגלית כמו TCGA ו־CPTAC, וקובצי ההנחיות מנוסחים באנגלית בלבד. אם המטרה היא לפעול מול מערכות בריאות בישראל או לעבד דוחות בעברית, תצטרכו לתרגם את המשימות או לאסוף מידע מקומי.
מה מקור הנתונים שבתוך המאגר?
הנתונים נשענים על כמה מאגרים רפואיים ידועים: TCGA, BCNB, CPTAC ו־Histai. המפרסמים חילצו מאפיינים מהשקופיות ובנו מעליהם שכבת הנחיות טקסטואליות לאימון ומבחני ביצועים להערכה.
איך המידע מאורגן להורדה ושימוש?
המאגר כולל 552 קבצים, כאשר קובצי המאפיינים הגדולים ארוזים בפורמט tar.gz ומחולקים לחלקים קטנים. משימות השפה וההערכה מגיעות כקובצי JSON לאימון וקובצי CSV למבחנים, אותם יש לקשר למאפיינים שחולצו מהתמונות.
איך טוענים
במאגר יש 552 קבצים, והוא אינו מגיע בצורת תמונות גולמיות פשוטות אלא כולל בעיקר מאפיינים מחולצים בארכיוני tar.gz מפוצלים לחלקים. לפני שמתחילים לעבוד צריך לפרוק ולחבר את הקבצים המפוצלים, ולקרוא את קובצי ה־JSON וה־CSV שמכילים את ההנחיות והשאלות. אין צורך באישור גישה מיוחד כדי להוריד אותו, אבל נפח הארכיונים והמבנה המפוצל דורשים הכנה מראש של שטח אחסון וסקריפט פריקה מסודר.
from datasets import load_dataset
ds = load_dataset("General-Medical-AI/SlideChat")הרישיון
היוצרים לא הגדירו רישיון במאגר. מבחינה משפטית, היעדר רישיון אומר שזכויות היוצרים שמורות להם במלואן ושאין היתר ברור להשתמש בנתונים, לא לצרכים מסחריים ואפילו לא לאימון מודלים למחקר. שימוש במאגר הזה לצורך אימון מודל שנכנס למוצר מהווה סיכון משפטי, אלא אם יוצרים קשר ישיר עם המפרסמים ומקבלים אישור כתוב.