GPT
הוספת כלי
G

gbert-base

קוד פתוח

deepsetmit2022-03-02

  • transformers
  • pytorch
  • tf
  • safetensors
  • fill-mask

מודל שפה ייעודי לגרמנית שמציע בסיס מדויק למשימות טקסט קלאסיות. הוא מחליף גרסאות ישנות ומתאים למי שצריך עיבוד שפה מקומי בלי תלות במודלים רב-לשוניים כבדים.

  • 111Mפרמטרים
  • 512טוקנים בהקשר
  • 1.3 GBמשקל הקבצים
  • 44,552הורדות בחודש

מה זה

מדובר במודל BERT בגודל 111 מיליון פרמטרים שאומן ספציפית על השפה הגרמנית, בשיתוף פעולה בין יוצרי המודלים הגרמניים המוקדמים. הוא מבצע משימות של השלמת מילים חסרות (fill-mask) ומשמש כבסיס מצוין לכוונון עדין לסיווג טקסט, זיהוי ישויות או ניתוח רגש בגרמנית.

במדדי הביצועים שהמפתחים הציגו, כמו GermEval14 שבו הוא הגיע לציון 87.98 ו־GermEval18 שנע בין 50.90 ל־78.17 כתלות ברמת הפירוט, רואים יכולת הבנה טובה של מבנים דקדוקיים גרמניים מורכבים. היתרון שלו מול מודלים רב-לשוניים כלליים באותו סדר גודל הוא אוצר מילים מותאם שמפרק פחות מילים מורכבות לרמת תווים בודדים.

מתאים ל

  • סיווג טקסטים בגרמנית

    אידיאלי למיון פניות לקוחות או כתבות בגרמנית לאחר כוונון עדין קצר.

  • זיהוי ישויות ושמות (NER)

    מזהה שמות, מקומות וארגונים בגרמנית עם רמת דיוק גבוהה יחסית למשקל.

  • השלמת מילים וטקסט חסר

    מבצע fill-mask מובנה לשחזור טקסטים פגומים או הצעות השלמה למשתמשים.

איפה זה נופל

המודל מיועד אך ורק לשפה הגרמנית, כך שהוא לא יעזור לכם כלל בעברית או באנגלית. חלון ההקשר שלו מוגבל ל־512 טוקנים, מה שפוסל אותו מניתוח מסמכים שלמים בלי חלוקה לפסקאות.

בנוסף, הוא בנוי כ־Masked LM ולא כמודל שיחה מייצר (Generative AI). אם אתם מחפשים בוט שיכתוב תשובות ארוכות, הוא פשוט לא מיועד לזה ויחזיר בעיקר השלמות מילים נקודתיות.

שאלות
נפוצות

האם אפשר להשתמש בו ליישומי טקסט בעברית?

לא. המודל אומן ספציפית על גרמנית בלבד. הוא לא יבין קלט בעברית ויחזיר תוצאות חסרות משמעות.

האם הוא מסוגל לענות על שאלות כמו צ'אטבוט?

לא באופן ישיר. המודל פועל בארכיטקטורת BERT להשלמת מילים וקידוד טקסט, ולא כמודל שמייצר פסקאות שיחה חופשיות.

איך מריצים

טוענים אותו ישירות דרך ספריית transformers בפייתון לקוד שלכם. הקבצים שוקלים 1.3 גיגה-בייט, מה שאומר שהוא נכנס בלי שום בעיה לזיכרון של כרטיס מסך פשוט או אפילו רץ ישירות על מעבד רגיל (CPU) בזמני תגובה קצרים.

אם אתם צריכים רק לבצע סיווג מהיר או לחלץ מידע מטקסטים בודדים בגרמנית, אין סיבה לשלם על שירותי ענן יקרים או API חיצוני. התחזוקה העצמית שלו זולה מאוד, אבל אם הטקסטים שלכם ארוכים מחלון של 512 טוקנים, תצטרכו לחתוך אותם מראש.

from transformers import pipeline

pipe = pipeline("fill-mask", model="deepset/gbert-base")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 1.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון MIT. המשמעות פשוטה: מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע אותו במוצר סגור ולהריץ אותו איפה שרוצים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗