BioMistral-7B

מה זה

הבסיס כאן הוא מיסטרל שבעה מיליארד, שעבר אימון המשך על טקסטים מדעיים מתוך המאגר החופשי של פאבמד סנטרל. המטרה שלו היא לספק הבנה של ספרות רפואית, מונחים מדעיים ושאלות ידע בתחום הבריאות, בלי שתצטרכו לשלוח מידע רגיש לשרת חיצוני.

בבדיקות השוואתיות של עשר משימות מענה על שאלות רפואיות, הוא מוביל על מודלים פתוחים מקבילים בגודל הזה כמו מדיטרון או פי-אם-סי-לאמה, עם דיוק ממוצע של 57.3 לעומת 55.9 של מודל הבסיס. גרסאות מיזוג שלו, במיוחד שיטת דאר, מגיעות לציון של 59.4. עם זאת, הוא עדיין מפסיד למודלים מסחריים כמו ג'י-פי-טי 3.5 שמחזיק בממוצע של 66 באותם מבחנים.

מתאים ל

• תחקור מאמרים רפואיים

  הוא אומן על מידע מפאבמד ומכיר מינוחים ומחקרים ביולוגיים טוב יותר ממודלים כלליים.

• מענה לשאלות ידע ביו-רפואי

  הוא מציג ביצועים עדיפים על מודלי קוד פתוח אחרים בגודל שבעה מיליארד פרמטרים במבחני ידע.

• בסיס לכוונון למשימות בריאות

  נקודת מוצא טובה לאימון פנימי בארגון שצריך פרטיות מלאה ולא רוצה להתחיל מאפס.

איפה זה נופל

יוצרי המודל מזהירים במפורש לא להשתמש בו בסביבות ייצור רפואיות או קליניות. הוא לא עבר ניסויים מבוקרים בעולם האמיתי, והידע שצבר לא הותאם להנחיות פעולה בטוחות. קיים סיכון ממשי להטיות ולהזיות שנשמעות אמינות. בנוסף, חלון ההקשר באימון ההמשך עומד על 2,048 טוקנים בלבד, כך שהוא לא בנוי לניתוח מסמכים רפואיים ארוכים.

איך מריצים

כדי להריץ אותו במשקל המקורי בדיוק מלא תצטרכו קצת יותר מחמישה עשר גיגה זיכרון גרפי, שזה כרטיס מקצועי או כרטיס ביתי חזק מאוד. הקבצים שוקלים 13.5 גיגה ומגיעים ישירות דרך ספריית הטרנספורמרס.

אם הזיכרון מוגבל, קיימות גרסאות מכווצות בארבעה ביט בשיטת איי-דבליו-קיו שלוקחות רק 4.68 גיגה זיכרון וירוצו בלי בעיה על כרטיסים צרכניים פשוטים. אם אתם צריכים רק מענה מזדמן לשאלות בלי דרישות פרטיות מקומיות, מודלים מסחריים גדולים בענן יתנו תוצאה מדויקת יותר בלי צורך בתחזוקת שרת.

from transformers import pipeline

pipe = pipeline("text-generation", model="BioMistral/BioMistral-7B")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 13.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model.bin14.5 GB
• Image+Title.png2.1 MB
• tokenizer.json1.8 MB
• tokenizer.model493.4 KB
• wordart_blue_m_rectangle.png347.5 KB
• runs/events.out.tfevents.1703180761.jean-zay-iam23.1019751.038.7 KB
• README.md9.6 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.4 KB
• config.json567 B
• generation_config.json111 B
• special_tokens_map.json72 B

הרישיון

הרישיון הוא אפאצ'י שתיים אפס. מותר להשתמש בו לצרכים מסחריים, לשנות אותו ולהפיץ אותו בחופשיות. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקוד או במוצר שאתם מפיצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗