GPT
הוספת כלי
E

embeddinggemma-300m-medical

קוד פתוח

sentence-transformersapache-2.02025-09-02

  • sentence-transformers
  • safetensors
  • gemma3_text
  • sentence-similarity
  • feature-extraction

מודל שיכוך קטן בארכיטקטורת Gemma 3 שעבר אימון ייעודי לטקסטים רפואיים באנגלית. הוא פותר בעיות דמיון וחיפוש סמנטי במאגרים קליניים בלי לדרוש שרתים כבדים.

  • 303Mפרמטרים
  • 1,024טוקנים בהקשר
  • 1.2 GBמשקל הקבצים
  • 5,304הורדות בחודש

מה זה

מדובר במודל דחיסה סמנטית שנבנה על בסיס embeddinggemma-300m מבית גוגל ועבר התאמה עם sentence-transformers. המטרה שלו היא לייצר וקטורים צפופים מטקסט לצורך משימות של דמיון סמנטי ושליפת מידע. האימון שלו התבסס על סט נתונים של מאה אלף דוגמאות עם פונקציית הפסד מסוג CachedMultipleNegativesRankingLoss, שמחדדת את ההפרדה בין תשובות רלוונטיות לטקסטים רפואיים לא קשורים.

בגזרה הטכנית הוא מכיל 24 שכבות ובסך הכל כ־303 מיליון פרמטרים. ההבדל בינו לבין מודלים כלליים באותו סדר גודל הוא המיקוד המובהק במונחים רפואיים, שמות תרופות, אבחנות ומחקרים קליניים. כרטיס המודל לא מציג טבלאות ציונים רשמיות מול מתחרים, אבל הדוגמאות הרשמיות מראות התאמה מדויקת בין שאלות קליניות לבין פסקאות מחקר מורכבות.

מתאים ל

  • חיפוש במאמרי רפואה

    שליפת פסקאות מתוך מאגרים מדעיים באנגלית לפי שאלות קליניות מורכבות.

  • סיווג תלונות חולים

    מדידת דמיון סמנטי בין תיאורי תסמינים באנגלית כדי לקבץ פניות דומות.

  • אינדוקס מאגר קליני מקומי

    יצירת וקטורים על שרת פנימי מאובטח בלי לשלוח מידע רפואי רגיש החוצה.

איפה זה נופל

הוא מוגדר לשפה האנגלית בלבד. אם תזינו לו טקסטים בעברית או סיכומי ביקור מקופת חולים בארץ, הוא לא יספק תוצאות סבירות בלי אימון מוקדם. בנוסף, חלון ההקשר שלו מוגבל ל־1,024 טוקנים, מה שאומר שאי אפשר להזין לו תיקים רפואיים שלמים בלי לחתוך אותם לפסקאות קטנות מראש.

שאלות
נפוצות

האם הוא מתאים לעבודה עם תיעוד רפואי בעברית?

לא. המודל הוגדר ואומן על טקסטים באנגלית בלבד. ניסיון להשתמש בו ישירות על עברית יוביל לתוצאות גרועות ולייצוג וקטורי לא מדויק.

האם אפשר להריץ אותו על שרת ללא כרטיס מסך ייעודי?

בהחלט. בזכות גודל של 303 מיליון פרמטרים בלבד, הוא רץ במהירות גם על גבי מעבד רגיל בצורה חסכונית.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers בפייתון או מריצים דרך כלי כמו text-embeddings-inference. כל הקבצים שוקלים כ־1.2 גיגה בייט בדיוק float32, כך שאין צורך במאיץ גרפי יקר. כרטיס מסך ביתי ישן או מעבד שרת מודרני מריצים אותו בלי להרגיש עומס חריג.

מריצים אותו לבד בעיקר כשחייבים לשמור על סודיות רפואית ולא רוצים שטקסטים של מטופלים ייצאו לספקי ענן חיצוניים. אם החיפוש שלכם הוא כללי ולא כולל מונחים רפואיים, API מסחרי רגיל יהיה פשוט יותר לתחזוקה.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("sentence-transformers/embeddinggemma-300m-medical")
v = m.encode(["שלום עולם"])

הקבצים

18 קבצים במאגר, 1.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הוא מופץ תחת רישיון Apache 2.0 המאפשר שימוש מסחרי חופשי, שינוי של הקוד והפצה פנימית או חיצונית במוצר שלכם. התנאי היחיד הוא שמירה על הודעות זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗