GPT
J

jina-embeddings-v2-base-de

קוד פתוח

jinaaiapache-2.02024-01-12

  • sentence-transformers
  • pytorch
  • onnx
  • safetensors
  • bert

יש כאן גם סקירה על Jina AI עצמו.

מודל שיכוך קטן וממוקד לגרמנית ואנגלית שבולע טקסטים ארוכים במיוחד. הוא מציע חלון הקשר של 8,192 טוקנים בגודל של 161 מיליון פרמטרים בלבד.

  • 161Mפרמטרים
  • 8,192טוקנים בהקשר
  • 1.6 GBמשקל הקבצים
  • 37,839הורדות בחודש

מה זה

מדובר במודל שמייצר וקטורים מטקסט לצורכי אחזור, קלסטור והשוואת דמיון, עם תמיכה ספציפית בגרמנית ובאנגלית. הייחוד האמיתי שלו בקטגוריית הגודל הזו הוא היכולת לטפל במסמכים שלמים בלי לחתוך אותם לחתיכות קטנות, תודות לחלון קלט של 8,192 טוקנים.

במבחני ביצועים הוא מציג דיוק קיצוני במיפוי בין גרמנית לאנגלית, עם 98.97% במבחן BUCC, כך שתרגום והשוואת טקסטים בין שתי השפות האלה יושבים אצלו מצוין. מנגד, במשימות סיווג ביקורות כמו סיווג מרובה של אמזון הוא מתרסק לאזור ה־37% עד 38% בלבד בשתי השפות. זה מראה שהחוזק שלו הוא באיתור קשרים ודמיון סמנטי, ולא בזיהוי תגיות עדינות.

מתאים ל

  • אחזור מסמכים ארוכים

    מערכות RAG שצריכות לבלוע דוחות שלמים בגרמנית או באנגלית בלי לפרק את ההקשר.

  • התאמת טקסט דו-לשונית

    חיבור ותרגום מקביל בין גרמנית לאנגלית בזכות דיוק של מעל 98% במבחני מיפוי.

  • חיפוש סמנטי במאגר ידע

    מנוע חיפוש פנימי לשאלות ותשובות טכניות באנגלית או גרמנית שרץ ישירות על הברזלים שלכם.

איפה זה נופל

הוא מיועד רק לגרמנית ואנגלית, כך שאם המערכת שלכם מערבבת עברית, הוא פשוט יאבד את הידיים והרגליים. מעבר לזה, במשימות סיווג מורכבות הוא חלש מאוד כפי שמראות תוצאות המדידה שלו, ואי אפשר להסתמך עליו למיון תגובות או ניתוח סנטימנט רב-שכבתי. כדאי לבדוק אותו היטב על הדאטה הספציפי שלכם לפני שסומכים עליו לסיווג.

שאלות
נפוצות

האם הוא מתאים לטקסטים בעברית?

לא. המודל אומן ותומך רק בגרמנית ובאנגלית. עבודה עם עברית תניב וקטורים לא מדויקים ותוצאות גרועות.

האם חייבים GPU יקר בשביל להריץ אותו?

ממש לא. הוא כולל רק 161 מיליון פרמטרים ומשקלו 1.6 גיגה-בייט בלבד. מעבד רגיל יספיק לנפחים קטנים, וכל כרטיס מסך פשוט יריץ אותו במהירות גבוהה.

איך מריצים

טוענים אותו ישירות דרך ספריית sentence-transformers הרגילה, והוא שוקל 1.6 גיגה-בייט על הדיסק בפורמט float16. אפשר להריץ אותו בלי בעיה על מעבד מקומי חזק או על כל כרטיס מסך בסיסי ביותר, אפילו כרטיסים ביתיים עם מעט זיכרון.

אם אתם צריכים רק עבודה שוטפת על פרויקט מקומי או שרת צנוע, אין שום סיבה לשלם על API חיצוני. מריצים מקומית ומקבלים שליטה מלאה על המידע בלי תלות ברשת.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("jinaai/jina-embeddings-v2-base-de")
v = m.encode(["שלום עולם"])

הרישיון

הוא מופץ תחת רישיון apache-2.0, שמתיר שימוש מסחרי מלא, שינוי של הקוד והפצה פנימית או חיצונית במוצר שלכם. התנאי היחיד הוא שמירה על הצהרת הרישיון ומתן קרדיט ליוצרים המקוריים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗