GPT
B

bge-base-en-v1.5

קוד פתוח

BAAImit2023-09-11

  • sentence-transformers
  • pytorch
  • onnx
  • safetensors
  • bert

מודל שיכוך טקסט מבוסס ברט שמפיק וקטורים מדויקים לחיפוש וסיווג באנגלית. הוא נותן ביצועים מעולים למשקל שלו ורץ בקלות על מעבד רגיל.

  • 109Mפרמטרים
  • 512טוקנים בהקשר
  • 1.2 GBמשקל הקבצים
  • 10,859,564הורדות בחודש

מה זה

מדובר באחד המודלים הנפוצים ביותר לחילוץ וקטורים, עם מעל עשרה מיליון הורדות. הוא בנוי על ארכיטקטורת ברט עם 12 שכבות וסדר גודל של 109 מיליון פרמטרים, מה שמציב אותו בדיוק בנקודת האיזון בין מהירות תגובה לאיכות ייצוג המידע.

במבחני ביצועים הוא מציג דיוק גבוה מאוד במשימות סיווג סנטימנט, למשל מעל 93 אחוז בדיוק וציון F1 במאגר אמזון פולריטי, וקרוב ל־87 אחוז בסיווג כוונות במאגר הבנקאי. בשליפת מידע הוא מגיע לריקול גבוה מאוד כשמבקשים עשר תוצאות ומעלה, אבל הדיוק בתוצאה הראשונה הבודדת צנוע בהרבה ועומד סביב 30 עד 40 אחוז במרבית הבדיקות, כך שהוא מתוכנן בעיקר להביא מקבץ רלוונטי לסינון נוסף ולא להסתמכות עיוורת על המקום הראשון.

מתאים ל

  • שליפת מידע למערכות RAG

    שליפת פסקאות באנגלית מתוך מאגר ידע כדי לתת הקשר מדויק למודלי שפה גדולים.

  • סיווג טקסטים וכוונות

    מיון פניות תמיכה או ניתוח סנטימנט באנגלית עם דיוק מוכח של מעל 86 אחוז.

  • דירוג מחדש ומציאת כפילויות

    זיהוי שאלות כפולות במערכות קהילה עם ציון MRR גבוה במבחני ביצועים.

איפה זה נופל

הוא מיועד לאנגלית בלבד, ואין לו שום תמיכה בעברית או בשפות אחרות. מגבלה קריטית נוספת היא חלון הקלט שעומד על 512 טוקנים בלבד, כך שלא תוכלו לזרוק אליו מסמכים שלמים בלי לחתוך אותם לפסקאות קודם.

בנוסף, במאגרי שאלות ותשובות טכניים מורכבים כמו מתמטיקה הדיוק שלו בשליפה צונח לאזור ה־17 עד 21 אחוז בתוצאה הראשונה, מה שמחייב לבדוק אותו על הדאטה הספציפי שלכם לפני שמחברים אותו למנוע חיפוש.

אותה משפחה

bge-base-en יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם אפשר להשתמש בו לטקסטים בעברית?

לא. המודל אומן והוגדר עבור השפה האנגלית בלבד. אם תזינו לו טקסט בעברית תקבלו וקטורים חסרי משמעות שלא ייצגו את התוכן בצורה סבירה.

האם חייבים GPU בשביל להשתמש בו במוצר חי?

ממש לא. בגלל גודלו המצומצם הוא מייצר וקטורים בזמני תגובה נמוכים מאוד גם על מעבד רגיל. GPU יהיה נחוץ רק אם אתם מאנדקסים מיליוני מסמכים בבת אחת ולא עובדים בזמן אמת.

איך מריצים

אתם טוענים אותו ישירות דרך ספריית sentence-transformers או דרך Hugging Face. קובצי המודל שוקלים בסך הכול 1.2 גיגה בייט בפורמט הרגיל, מה שאומר שהוא נכנס בלי בעיה לזיכרון של כל שרת סטנדרטי ואפילו במחשב נייד ישן.

אין שום חובה להחזיק כרטיס מסך ייעודי כדי להריץ אותו, והוא רץ מהר מאוד על מעבד פשוט. פנייה לשירות ענן חיצוני מיותרת לחלוטין כאן, כי התקורה של שליחת המידע ברשת כנראה תיקח יותר זמן מחישוב הווקטורים במכונה המקומית שלכם.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("BAAI/bge-base-en-v1.5")
v = m.encode(["שלום עולם"])

הרישיון

הוא מופץ תחת רישיון MIT. מותר לכם להשתמש בו לכל מטרה, כולל מוצרים מסחריים וקוד סגור, לשנות אותו ולהפיץ אותו כרצונכם, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗