gte-base-en-v1.5

מה זה

מדובר במודל הטמעה שמייצר וקטורים להשוואת טקסטים, חיפוש סמנטי וסיווג. היתרון הבולט מול חלופות ותיקות בגודל בסיס הוא היכולת לבלוע עד 8,192 טוקנים בבת אחת במקום התקרה המוכרת של 512. זה אומר שאפשר להזין מאמרים שלמים, תלונות לקוחות ארוכות או מסמכי תמיכה טכניים ישירות לתוך ההטמעה בלי להסתבך עם פיצול אגרסיבי.

במבחני MTEB הוא מציג תוצאות מעורבות שתלויות בסוג המשימה. בסיווג פולאריות באמזון הוא פוגע יפה עם דיוק של מעל 93 אחוז, אבל כשזה מגיע לביקורות מורכבות יותר הדיוק צונח לכיוון 53 אחוז. במשימות אחזור טכניות כמו שאילתות מתמטיות או פורומים ממוקדים, שיעור הפגיעה בתוצאה הראשונה נמוך למדי, סביב 15 עד 20 אחוז, אך עולה משמעותית כשבודקים את עשר התוצאות הראשונות.

מתאים ל

• חיפוש במסמכי תמיכה ארוכים

  הוא קורא מדריכים טכניים שלמים באנגלית בלי לאבד את ההקשר הכללי של המסמך.

• סינון וסיווג שאלות טכניות

  מזהה כפילויות של שאלות משתמשים ומקבץ פניות דומות במערכות תמיכה.

• שכבת שליפה ראשונית ל־RAG

  מוצא במהירות את עשר הפסקאות הרלוונטיות ביותר מתוך מאגר גדול באנגלית.

איפה זה נופל

המודל אומן על אנגלית בלבד. אם יש לכם טקסטים בעברית, חיפושים מעורבים או שאלות מקומיות, אל תיגעו בו, הוא לא בנוי לזה. מעבר לזה, במשימות אחזור טכניות קשות הוא מתקשה להציב את התשובה המדויקת במקום הראשון. כדאי מאוד להציב שכבת דירוג מחדש אחרי החיפוש הראשוני שלו.

איך מריצים

המשקל הכולל של הקבצים עומד על 2.0 גיגהבייט עם כ־137 מיליון פרמטרים, כך שדרישות הזיכרון שלו צנועות מאוד. אפשר להריץ אותו בקלות על מעבד רגיל בכל שרת פשוט, או לדחוף אותו לכרטיס מסך בסיסי ולקבל זמני תגובה אפסיים. הוא נתמך ישירות בספריית transformers ומתאים גם לעבודה בדפדפן דרך גרסת JS שנכללת בתיוגים שלו.

אין שום הצדקה לשלם לספקי API חיצוניים לפי כמות טוקנים כשמדובר בגודל כזה. אם אתם עובדים עם מסמכים ארוכים, הרצה עצמית בשרת מקומי תחסוך לכם כסף אמיתי כבר מהיום הראשון.

from transformers import pipeline

pipe = pipeline("sentence-similarity", model="Alibaba-NLP/gte-base-en-v1.5")
print(pipe("שלום"))

הקבצים

18 קבצים במאגר, 2.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• onnx/model.onnx555.9 MB
• model.safetensors547.1 MB
• onnx/model_fp16.onnx278.2 MB
• onnx/model_q4.onnx173.7 MB
• onnx/model_bnb4.onnx166.6 MB
• onnx/model_int8.onnx146.5 MB
• onnx/model_quantized.onnx146.5 MB
• onnx/model_uint8.onnx146.5 MB
• tokenizer.json711.7 KB
• vocab.txt231.5 KB
• README.md72.3 KB
• .gitattributes1.5 KB
• tokenizer_config.json1.4 KB
• config.json1.3 KB
• special_tokens_map.json695 B
• 1_Pooling/config.json297 B
• modules.json229 B
• sentence_bert_config.json54 B

הרישיון

הקוד והמשקולות מפורסמים תחת רישיון apache-2.0. מותר להשתמש במודל למוצרים מסחריים, לשנות אותו, להריץ אותו בשרתים פרטיים או להפיץ אותו, כל עוד שומרים על הודעת זכויות היוצרים המקורית והצהרת הרישיון.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗