GPT
B

bge-base-en

קוד פתוח

BAAImit2023-08-05

  • transformers
  • pytorch
  • onnx
  • safetensors
  • bert

פתרון אמבדינגס קומפקטי ומהיר באנגלית שמיועד לאחזור מידע ולסיווג. הוא נותן תוצאות חזקות בלי לדרוש משאבי שרת כבדים.

  • 109Mפרמטרים
  • 512טוקנים בהקשר
  • 1.2 GBמשקל הקבצים
  • 1,998,807הורדות בחודש

מה זה

מדובר במודל מבוסס ארכיטקטורת ברט עם 12 שכבות שממיר טקסט באנגלית לוקטורים עבור שליפת מידע והשוואת משמעות. עם כמעט 110 מיליון פרמטרים, הוא מתחרה ישירות במודלים קלים שרצים מקומית ואינם דורשים תשתיות ענק.

במבחני MTEB הוא מפגין ביצועים מעורבים שתלויים לחלוטין באופי המשימה. בסיווג רגש פשוט הוא מגיע לדיוק של 92.5%, אבל בסיווג מורכב יותר כמו ביקורות מדורגות הוא צונח ל־46.9%. באחזור מידע טכני, למשל במאגרי שאלות של מתכנתים או נושאים מדעיים, מדדי הדיוק הראשוני נעים לרוב בין 20 ל־35 אחוזים, כך שתצטרכו לקחת בחשבון שכבת דירוג נוספת אם הדיוק הקריטי חשוב לכם.

מתאים ל

  • חיפוש סמנטי פנימי

    אידיאלי לאחזור מסמכים קצרים ותיעוד טכני באנגלית מתוך מאגר מקומי במהירות גבוהה.

  • סיווג כוונות משתמש

    משיג תוצאה של מעל 86% דיוק במאגר בנקאי ומאפשר ניתוב פניות משתמשים בזמן אמת.

  • סינון שאלות כפולות

    מציג מדד דירוג גבוה מעל 74% בזיהוי שאלות דומות בפורומים טכניים.

איפה זה נופל

הוא לא יודע עברית. המודל אומן על אנגלית בלבד, וכל ניסיון להזין לו טקסט מקומי יחזיר וקטורים חסרי משמעות. חלון ההקשר מוגבל ל־512 טוקנים, ולכן פסקאות ארוכות מדי ייחתכו או ידרשו פירוק מוקדם ומסורבל לחלקים קטנים.

מבחני הביצועים מראים גם חולשה בטקסטים מתמטיים ומדעיים כבדים, שבהם מדדי האחזור נמוכים משמעותית. אם המוצר שלכם מנתח מאמרים אקדמיים עמוקים, שווה לבדוק מודל ייעודי לתחום.

אותה משפחה

bge-base-en יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם אפשר להשתמש בו לחיפוש בעברית?

לא. המודל אומן ותומך רק באנגלית, והטוקנייזר שלו לא יפרק טקסט עברי בצורה תקינה. לפרויקטים בעברית תצטרכו לחפש מודלים רב־לשוניים.

האם חייבים מעבד גרפי כדי להשתמש בו בפרודקשן?

ממש לא. בגלל הגודל הקומפקטי שלו, מעבד רגיל יספק קצבי עיבוד טובים מאוד לעומסים בינוניים. מעבד גרפי נדרש בעיקר אם אתם מייצרים וקטורים למיליוני רשומות במקביל.

איך מריצים

במשקל של 1.2 גיגה־בייט הוא נטען בקלות דרך ספריית טרנספורמרס ורץ בנוחות על מעבד רגיל של שרת פשוט, אפילו בלי כרטיס מסך ייעודי. אם אתם מעבדים נפחי טקסט גדולים בזמן אמת, כרטיס מסך בסיסי עם 4 עד 8 גיגה זיכרון יספיק לחלוטין כדי לקבל זמני תגובה של מילישניות בודדות.

בממדים האלה אין שום סיבה אמיתית לשלם לספקי ענן על קריאות שרת חיצוניות. ההרצה העצמית פשוטה, זולה, ושומרת את המידע הרגיש בתוך הרשת המקומית שלכם.

from transformers import pipeline

pipe = pipeline("feature-extraction", model="BAAI/bge-base-en")
print(pipe("שלום"))

הרישיון

רישיון MIT פתוח ומתירני לחלוטין. מותר להשתמש בו ליישומים מסחריים, לשנות אותו, להפיץ אותו ולשלב אותו במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗