GPT
הוספת כלי
M

multi-qa-mpnet-base-cos-v1

קוד פתוח

sentence-transformersרישיון לא דווח2022-03-02

  • sentence-transformers
  • pytorch
  • onnx
  • safetensors
  • openvino

מודל שיודע להתאים בין שאלות לפסקאות תשובה באנגלית. הוא פותח במיוחד לחיפוש סמנטי וממפה טקסטים לווקטורים בגודל 768 ממדים.

  • 109Mפרמטרים
  • 514טוקנים בהקשר
  • 3.6 GBמשקל הקבצים
  • 84,394הורדות בחודש

מה זה

הבסיס כאן הוא ארכיטקטורת MPNet עם 109 מיליון פרמטרים, שעברה אימון ייעודי על 215 מיליון זוגות של שאלות ותשובות ממקורות מגוונים, כולל ויקיפדיה, Stack Exchange ו־MS MARCO. המטרה שלו היא לא סתם למצוא מילים דומות, אלא להבין ששאלה מסוימת מחפשת קטע מידע ספציפי שמספק לה מענה, גם כשהניסוחים שונים לגמרי.

בניגוד למודלי דמיון כלליים שמודדים קרבה בין שני משפטים מקבילים, הוא מכויל על דמיון קוסינוס עבור זוגות של שאלה ופסקה. הוא מחזיר וקטור מנורמל באורך 1, מה שאומר שבפועל אפשר להשתמש במכפלה סקלרית מהירה במקום חישוב קוסינוס מלא כדי לדרג תוצאות.

מתאים ל

  • חיפוש במאגרי תמיכה

    התאמת שאלות של משתמשים באנגלית לתשובות מוכנות מתוך מדריכים ופורומים טכניים.

  • שליפת פסקאות ל־RAG

    איתור מקטעי טקסט רלוונטיים באנגלית מתוך מסד נתונים כדי להזין אותם למודל שפה גדול.

  • זיהוי שאלות כפולות

    איתור שאלות זהות בניסוחים שונים במערכות שאלות ותשובות מבוססות קהילה.

איפה זה נופל

הוא מיועד לאנגלית בלבד, ואי אפשר לצפות ממנו לביצועים סבירים בעברית. בנוסף, למרות שחלון ההקשר עומד טכנית על 514 טוקנים וטקסט ארוך מזה פשוט ייחתך, המפתחים מודים שהאימון עצמו התבצע רק על קטעים באורך של עד 250 טוקנים. אם תזינו פסקאות ארוכות יותר, הדיוק עלול לרדת משמעותית.

שאלות
נפוצות

האם כדאי להשתמש בו לחיפוש טקסטים בעברית?

לא. המודל אומן על מאגרי נתונים באנגלית בלבד. אם תזינו לו עברית תקבלו וקטורים באיכות נמוכה שלא יתנו תוצאות חיפוש אמינות.

האם חייבים לחשב דמיון קוסינוס כדי למצוא תוצאות?

לא, אין צורך בחישוב המלא. כשהמודל נטען דרך ספריית sentence-transformers הוא מייצר וקטורים מנורמלים, ולכן מכפלה סקלרית רגילה נותנת בדיוק את אותה תוצאה ומסתיימת הרבה יותר מהר.

איך מריצים

בגודל של 109 מיליון פרמטרים ומשקל קבצים של 3.6 גיגה־בייט, אין בעיה להריץ אותו מקומית על מעבד רגיל או מאיץ גרפי קטן, באמצעות ספריית sentence-transformers או דרך קונטיינר מוכן של Hugging Face Text Embeddings Inference.

אם אתם צריכים לאנדקס מאגרים של מיליוני מסמכים, שרת ייעודי עם כרטיס גרפי יסיים את העבודה הרבה יותר מהר ממעבד רגיל. עבור חיפושים חיים בהיקף נמוך, הרצה מקומית על המעבד תעשה את העבודה בלי צורך לשלם על API חיצוני.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("sentence-transformers/multi-qa-mpnet-base-cos-v1")
v = m.encode(["שלום עולם"])

הקבצים

28 קבצים במאגר, 3.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

בעמוד המודל לא מופיע רישיון מוגדר. במצב כזה אין אישור שימוש רשמי, לא לצרכים מסחריים ולא לפרויקטים פנימיים, ושימוש בו בסביבת ייצור חושף אתכם לסיכון משפטי עד שהיוצרים יבהירו את תנאי ההפצה.

הרישיון המלא בעמוד המודל ↗