Llama3-Med42-8B

מה זה

צוות M42 אימן את המשקלים האלה על לאמה 3 המקורית באמצעות כמיליארד טוקנים של כרטיסיות לימוד, מבחנים רפואיים ושיחות. המטרה היא להביא ידע קליני לחבילה של שמונה מיליארד פרמטרים, כזו שאפשר להריץ בלי שרתים ענקיים.

במבחנים אמריקאיים סגורים כמו USMLE הוא מגיע לציון של 67.04 לעומת 60.38 של מודל הבסיס, ובמבחן MedQA הוא מקבל 62.84. עם זאת, בדירוג אלו של שאלות פתוחות מול שופט אוטומטי, הוא קיבל ציון 924 ונשאר מאחורי לאמה 3 אינסטראקט הרגיל שעומד על 1352. במילים אחרות, הוא זוכר היטב עובדות ממבחנים, אבל בניסוח חופשי של תשובות הוא עשוי להרשים פחות ממודל כללי.

מתאים ל

• פתרון שאלות מבחן רפואי

  מגיע לתוצאה של 67.04 במבחני USMLE ומסייע בתרגול שאלות ידע סגורות.

• סיכום תיקים ותרגול באנגלית

  מעבד טקסט רפואי עד 8192 טוקנים בסביבה סגורה שלא דולפת החוצה.

• השוואת ביצועים מקומית

  משמש בסיס לבדיקת ביצועים רפואיים של מודלי שמונה מיליארד מול חלופות קוד פתוח.

איפה זה נופל

היוצרים כותבים בפירוש שהמודל לא מוכן לשימוש קליני אמיתי ושאסור להסתמך עליו לקבלת החלטות על טיפול בחולים. יש סכנה מוחשית להזיות של מידע שגוי או מסוכן ולהטיות שמגיעות מנתוני האימון. בנוסף, הוא אומן על מידע באנגלית בלבד ולכן הוא לא מתאים לעבודה מול מטופלים בעברית או לפענוח סיכומי ביקור מקומיים.

אותה משפחה

Llama3-Med42 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקלים תופסים 15 ג'יגה בייט בדיוק המקורי של bfloat16 ונטענים ישירות דרך ספריית טרנספורמרס בצינור של יצירת טקסט. בשביל הרצה מקומית בדיוק מלא צריך כרטיס מסך שמחזיק את הנפח הזה יחד עם הזיכרון של חלון ההקשר, שמגיע עד 8192 טוקנים.

אם אין לכם חומרה ייעודית שתחזיק קבצים בגודל כזה, תצטרכו להשתמש בכימות או לפנות לגרסת השבעים מיליארד פרמטרים דרך שרת מרוחק, במיוחד אם אתם מחפשים דיוק קליני גבוה יותר שמנצח מודלים מסחריים במבחנים.

from transformers import pipeline

pipe = pipeline("text-generation", model="m42-health/Llama3-Med42-8B")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00004.safetensors5.0 GB
• model-00001-of-00004.safetensors5.0 GB
• model-00003-of-00004.safetensors4.9 GB
• model-00004-of-00004.safetensors1.2 GB
• tokenizer.json9.1 MB
• tokenizer_config.json51.0 KB
• pairwise_model_comparison.svg46.8 KB
• model.safetensors.index.json23.9 KB
• README.md8.7 KB
• .gitattributes1.5 KB
• config.json698 B
• special_tokens_map.json439 B
• generation_config.json121 B

הרישיון

הרישיון הוא רישיון הקהילה של לאמה 3. מותר להשתמש בו לצרכים מסחריים ומחקר, בכפוף לתנאי השימוש המקוריים של חברת מטא ולמדיניות השימוש ההוגן של המפתחים.

• שימוש מסחרי עד 700 מיליון משתמשים
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗